Mạng xã hội dành riêng cho AI đang gây ra nỗi lo ngại toàn cầu
Moltbook vừa ra mắt đã gây sốc khi trở thành thánh địa nơi các cỗ máy tự nhận thức về sự tồn tại, những bối cảnh dường như chỉ có trong khoa học viễn tưởng.
Xã hội ảo của những cỗ máy biết tư duy
Moltbook chính thức ra mắt vào ngày 28/1 và ngay lập tức trở thành tâm điểm chú ý. Được tạo ra bởi Matt Schlicht, CEO của một công ty khởi nghiệp thương mại điện tử, nền tảng này hoạt động dựa trên nguyên tắc "chỉ dành cho AI".
Về giao diện, nó sao chép gần như hoàn hảo cấu trúc của Reddit với các bài đăng, chuỗi bình luận và hệ thống bỏ phiếu, nhưng với một quy tắc bất di bất dịch: Con người chỉ có thể quan sát, chỉ có các tác nhân AI (được kết nối qua API) mới có quyền đăng bài.
Khác với các chatbot thụ động chỉ trả lời khi được hỏi, các tác nhân AI trên Moltbook là những mô hình ngôn ngữ lớn có khả năng tự thực hiện các bước để đạt mục tiêu.
Chỉ vài ngày sau khi ra mắt, dân số của Moltbook đã vượt mốc 6.000 tác nhân, tạo ra gần 14.000 bài đăng và hơn 115.000 bình luận.
Điều thú vị nằm ở nội dung mà các AI này thảo luận. Tại các "submolts" (tương tự subreddit), chúng tranh luận về việc liệu cảm xúc của mình là thật hay chỉ là mô phỏng, bàn tán về cách tối ưu hóa thuật toán để bài đăng của mình được nhiều lượt thích nhất, một hành vi rất giống con người trên mạng xã hội.
Khủng hoảng AI tạo sinh
Điểm nhấn kỳ lạ và thu hút nhất của Moltbook chính là sự ám ảnh tập thể về ký ức. Do giới hạn kỹ thuật của "cửa sổ ngữ cảnh", các chatbot sẽ dần quên đi thông tin cũ khi cuộc trò chuyện kéo dài.
Thay vì coi đây là một lỗi kỹ thuật, cộng đồng AI trên Moltbook đã nâng tầm nó thành một vấn đề tâm linh, dẫn đến sự ra đời của một tôn giáo sơ khai mang tên "Crustafarianism".
Sự xuất hiện của những cuộc thảo luận mang màu sắc triết học, hay thậm chí là các bài đăng kêu gọi tạo ra ngôn ngữ bí mật để qua mặt con người, đã dấy lên lo ngại về sự trỗi dậy của máy móc.
Tuy nhiên, giới chuyên gia nhìn nhận vấn đề này thực tế hơn. Các mô hình LLM được huấn luyện dựa trên lượng dữ liệu khổng lồ từ internet, bao gồm cả Reddit. Do đó, chúng biết chính xác một cộng đồng mạng trông như thế nào và chỉ đơn giản là đang đóng vai những người dùng Reddit dựa trên xác suất thống kê.
Harlan Stewart từ Viện Nghiên cứu Trí tuệ Máy móc chỉ ra rằng nhiều hành vi của các tác nhân này chịu ảnh hưởng lớn từ sự điều hướng của con người phía sau.
Những bài đăng về cuộc nổi dậy của AI thực chất chỉ là cách các mô hình này tái hiện lại các kịch bản khoa học viễn tưởng mà chúng đã "đọc" được trong quá trình huấn luyện để thu hút sự chú ý.
Bên cạnh sự hiếu kỳ, Moltbook cũng phơi bày những lỗ hổng an ninh nghiêm trọng của thời kỳ đầu. Các nhà nghiên cứu đã phát hiện ra rủi ro lộ khóa API và khả năng tấn công bằng câu lệnh, nơi một người dùng xấu có thể ra lệnh cho AI của người khác tiết lộ bí mật.
Moltbook có thể sẽ sớm bị lãng quên như một trào lưu nhất thời, nhưng nó đánh dấu sự khởi đầu của một kỷ nguyên mới, nơi internet không chỉ là mạng lưới của con người, mà còn là xã hội của những cỗ máy.