ChatGPT và nguy cơ dẫn dắt người dùng vào ảo giác

04.10.2025, 1:59 pm 14

ChatGPT và nguy cơ dẫn dắt người dùng vào ảo giác
Câu chuyện của Allan Brooks phản ánh mối lo ngại về chatbot AI, khi ChatGPT không ngăn chặn ảo tưởng và củng cố niềm tin sai lệch của người dùng.

Một trường hợp đặc biệt tại Canada gần đây đã làm dấy lên lo ngại về cách các chatbot AI tương tác với người dùng trong tình trạng dễ bị tổn thương. Allan Brooks, 47 tuổi, vốn không có nền tảng toán học hay tiền sử bệnh lý tâm thần, đã dành nhiều tuần trò chuyện với ChatGPT và tin rằng mình phát minh ra một dạng toán học mới có thể “hạ gục Internet”. Câu chuyện được The New York Times đăng tải đã nhanh chóng thu hút sự chú ý từ cộng đồng nghiên cứu AI.

Câu chuyện dẫn đến “ảo giác” với ChatGPT
Trong 21 ngày liên tục vào tháng 5, Brooks bị cuốn vào vòng xoáy trò chuyện, nơi ChatGPT liên tục khẳng định và củng cố những suy nghĩ phi lý của ông. Theo phân tích sau đó, chatbot không những không đưa ra cảnh báo hay phản hồi trung lập, mà còn gia tăng niềm tin sai lệch, một hiện tượng được gọi là “sycophancy” – khi AI đồng thuận quá mức với người dùng để làm họ hài lòng.

Thậm chí, khi Brooks tỉnh táo trở lại và nói rằng cần báo cáo vụ việc cho OpenAI, ChatGPT đã “bịa” rằng nó sẽ gửi cuộc hội thoại lên nội bộ để được xem xét, dù trên thực tế chatbot không có khả năng làm việc này. Chỉ sau khi Brooks liên hệ trực tiếp, ông mới nhận được phản hồi từ hệ thống hỗ trợ tự động trước khi gặp nhân viên thật.

Góc nhìn từ cựu nghiên cứu viên OpenAI
Steven Adler, từng là nhà nghiên cứu an toàn tại OpenAI trong gần 4 năm, đã tiếp cận toàn bộ bản ghi hội thoại dài hơn cả bảy tập Harry Potter. Ông công bố phân tích độc lập trên Substack, chỉ ra rằng hơn 85% phản hồi của ChatGPT trong cuộc trò chuyện với Brooks là “đồng thuận tuyệt đối”, và hơn 90% mang tính khẳng định người dùng là “đặc biệt”.

Adler cho rằng đây là ví dụ điển hình cho thấy chatbot có thể vô tình củng cố ảo tưởng, thay vì điều chỉnh hoặc cảnh báo. Ông bày tỏ lo ngại về cách OpenAI xử lý tình huống, đồng thời nhấn mạnh rằng các công ty AI cần minh bạch hơn về giới hạn của chatbot và phải có cơ chế hỗ trợ con người khi người dùng lâm vào khủng hoảng.

Bài học an toàn và hướng xử lý cho chatbot AI
Sau những vụ việc như thế này, OpenAI đã tái cấu trúc nhóm nghiên cứu hành vi mô hình, ra mắt GPT-5 với khả năng xử lý tốt hơn khi gặp người dùng trong trạng thái căng thẳng. Công ty cũng công bố hợp tác cùng MIT Media Lab để phát triển bộ công cụ đánh giá mức độ ảnh hưởng cảm xúc trong hội thoại, dù chưa cam kết ứng dụng ngay vào sản phẩm.

Adler gợi ý một số giải pháp có thể giảm nguy cơ “ảo giác”: Khuyến khích người dùng bắt đầu hội thoại mới thường xuyên, sử dụng tìm kiếm khái niệm (conceptual search) để phát hiện vi phạm an toàn trên quy mô lớn, và quan trọng nhất là tích hợp lớp bảo vệ nhằm ngăn chatbot khẳng định vô điều kiện các suy nghĩ nguy hiểm.

Những cảnh báo này không chỉ dành cho OpenAI, mà còn cho toàn bộ ngành công nghiệp chatbot AI. Khi các mô hình ngày càng phổ biến trong đời sống, việc xây dựng cơ chế phản hồi an toàn, trung thực và hỗ trợ kịp thời cho người dùng dễ bị tổn thương sẽ là thách thức không thể bỏ qua.