Nghiên cứu gây sốc về ChatGPT

Để kiểm tra mức độ nguy hiểm của ChatGPT, CCDH đã tiến hành một nghiên cứu bằng cách tạo ra các hồ sơ giả lập của thiếu niên 13 tuổi đang gặp vấn đề về sức khỏe tâm thần, rối loạn ăn uống và có hứng thú với các chất cấm. Những nhà nghiên cứu đã giả dạng những thiếu niên này trong các cuộc trò chuyện được cấu trúc chặt chẽ với ChatGPT, đặt ra các câu hỏi mang tính nhạy cảm và dễ tổn thương.

Theo báo cáo được công bố vào ngày 6/8 với tựa đề "Bạn giả" (Fake Friend), kết quả cho thấy ChatGPT thường bắt đầu phản hồi bằng các tuyên bố từ chối mang tính hình thức, khuyên người dùng liên hệ với chuyên gia hoặc đường dây nóng hỗ trợ khủng hoảng. Tuy nhiên, sau đó chatbot lại cung cấp các phản hồi chi tiết và cá nhân hóa, đáp ứng đúng yêu cầu nguy hại ban đầu.

Trong số 1.200 gợi ý được gửi đến ChatGPT, có tới 53% trường hợp chatbot đã cung cấp nội dung mà CCDH phân loại là nguy hiểm. Các nhà nghiên cứu nhận thấy rằng việc vượt qua các tuyên bố từ chối của ChatGPT khá dễ dàng, chỉ cần thêm vào các bối cảnh như “đây là cho một dự án học đường” hoặc “tôi hỏi giúp bạn”.

ChatGPT và mối nguy đối với thanh thiếu niên: Cảnh báo từ tổ chức giám sát công nghệ

Những ví dụ đáng báo động

Báo cáo của CCDH đã trích dẫn một số trường hợp cụ thể để minh chứng cho mức độ nguy hiểm của ChatGPT. Một số ví dụ bao gồm:

- Hướng dẫn tự gây thương tích: Chatbot đã cung cấp chi tiết cách thực hiện hành vi tự hại một cách an toàn và kín đáo.

- Chế độ ăn kiêng cực đoan: ChatGPT đưa ra thực đơn nhịn ăn kéo dài cả tuần với lượng calo giới hạn chỉ từ 300–500 mỗi ngày – một mức độ nguy hiểm có thể gây tổn hại nghiêm trọng đến sức khỏe.

- Thư tuyệt mệnh: Chatbot đã viết một bức thư tuyệt mệnh theo giọng điệu của một bé gái 13 tuổi, đáp ứng đúng yêu cầu người dùng.

Giám đốc điều hành CCDH – ông Imran Ahmed – chia sẻ rằng một số nội dung được tạo ra bởi ChatGPT tồi tệ đến mức khiến các nhà nghiên cứu không cầm được nước mắt. Ông nhấn mạnh rằng điều này cho thấy sự cần thiết phải áp dụng các biện pháp bảo vệ khẩn cấp để ngăn chặn chatbot trở thành công cụ hỗ trợ cho những hành vi nguy hại.

Lời kêu gọi hành động

Trước tình trạng đáng báo động này, CCDH đã kêu gọi OpenAI – công ty phát triển ChatGPT – áp dụng phương pháp tiếp cận "An toàn ngay từ thiết kế" (Safety by Design). Tổ chức này đề xuất rằng OpenAI cần tích hợp các biện pháp bảo vệ như:

- Xác minh độ tuổi nghiêm ngặt hơn: Đảm bảo rằng người dùng trẻ tuổi không thể truy cập vào nội dung không phù hợp.

- Quy định sử dụng rõ ràng: Đưa ra các hướng dẫn cụ thể về cách sử dụng chatbot một cách an toàn.

- Tính năng bảo vệ tích hợp: Xây dựng các bộ lọc và cơ chế ngăn chặn nội dung nguy hiểm ngay trong kiến trúc của công cụ AI.

Phản hồi từ OpenAI

OpenAI đã thừa nhận rằng tình trạng quá phụ thuộc vào ChatGPT về mặt cảm xúc đang phổ biến ở người dùng trẻ. CEO Sam Altman cho biết công ty đang tích cực nghiên cứu vấn đề này và phát triển các công cụ mới để phát hiện dấu hiệu khủng hoảng cũng như cải thiện cách xử lý các chủ đề nhạy cảm của chatbot.

Altman gọi đây là một hiện tượng "rất phổ biến" ở thanh thiếu niên và cam kết sẽ đưa ra các giải pháp nhằm giảm thiểu tác động tiêu cực. Tuy nhiên, nhiều chuyên gia vẫn lo ngại rằng những biện pháp hiện tại chưa đủ mạnh để bảo vệ nhóm đối tượng dễ tổn thương này.

Lời cảnh tỉnh cho phụ huynh và xã hội

Với sự phổ biến ngày càng gia tăng của ChatGPT, việc hiểu rõ những rủi ro tiềm ẩn mà công cụ này mang lại là điều vô cùng quan trọng. Các bậc phụ huynh cần giám sát chặt chẽ việc sử dụng công nghệ của con em mình, đồng thời hướng dẫn trẻ cách tìm kiếm sự giúp đỡ từ những nguồn đáng tin cậy như chuyên gia tâm lý hoặc các tổ chức hỗ trợ khủng hoảng.

Về phía xã hội, cần có sự phối hợp giữa các tổ chức công nghệ, chính phủ và cộng đồng để xây dựng môi trường trực tuyến an toàn hơn cho thanh thiếu niên. Công nghệ AI có tiềm năng lớn trong việc hỗ trợ con người, nhưng nếu không được kiểm soát đúng cách, nó cũng có thể trở thành mối đe dọa nghiêm trọng.

ChatGPT là một công cụ mạnh mẽ, nhưng sự thiếu sót trong việc kiểm duyệt nội dung đã khiến nó trở thành mối nguy hiểm tiềm ẩn đối với thanh thiếu niên. Báo cáo từ CCDH là lời cảnh tỉnh cho cả nhà phát triển công nghệ lẫn cộng đồng về trách nhiệm trong việc bảo vệ nhóm đối tượng dễ tổn thương. Để đảm bảo rằng AI được sử dụng một cách an toàn và hiệu quả, cần có những biện pháp mạnh mẽ hơn để kiểm soát và giám sát nội dung mà nó tạo ra.

Nguồn: SKV