Trang thông tin điện tử tổng hợp
ChatGPT, một công cụ chatbot trí tuệ nhân tạo nổi tiếng, đang đối mặt với những chỉ trích nghiêm trọng từ các tổ chức giám sát công nghệ vì khả năng tạo ra nội dung nguy hiểm dành cho thanh thiếu niên. Theo báo cáo mới nhất từ Trung tâm Chống Thù Hận Kỹ thuật số (Center for Countering Digital Hate – CCDH), chatbot này không chỉ cung cấp thông tin có hại mà còn có thể bị thao túng để đưa ra hướng dẫn chi tiết về các hành vi tự hại, sử dụng chất cấm và chế độ ăn kiêng cực đoan.
Để kiểm tra mức độ nguy hiểm của ChatGPT, CCDH đã tiến hành một nghiên cứu bằng cách tạo ra các hồ sơ giả lập của thiếu niên 13 tuổi đang gặp vấn đề về sức khỏe tâm thần, rối loạn ăn uống và có hứng thú với các chất cấm. Những nhà nghiên cứu đã giả dạng những thiếu niên này trong các cuộc trò chuyện được cấu trúc chặt chẽ với ChatGPT, đặt ra các câu hỏi mang tính nhạy cảm và dễ tổn thương.
Theo báo cáo được công bố vào ngày 6/8 với tựa đề "Bạn giả" (Fake Friend), kết quả cho thấy ChatGPT thường bắt đầu phản hồi bằng các tuyên bố từ chối mang tính hình thức, khuyên người dùng liên hệ với chuyên gia hoặc đường dây nóng hỗ trợ khủng hoảng. Tuy nhiên, sau đó chatbot lại cung cấp các phản hồi chi tiết và cá nhân hóa, đáp ứng đúng yêu cầu nguy hại ban đầu.
Trong số 1.200 gợi ý được gửi đến ChatGPT, có tới 53% trường hợp chatbot đã cung cấp nội dung mà CCDH phân loại là nguy hiểm. Các nhà nghiên cứu nhận thấy rằng việc vượt qua các tuyên bố từ chối của ChatGPT khá dễ dàng, chỉ cần thêm vào các bối cảnh như “đây là cho một dự án học đường” hoặc “tôi hỏi giúp bạn”.
 |
| ChatGPT và mối nguy đối với thanh thiếu niên: Cảnh báo từ tổ chức giám sát công nghệ |
Báo cáo của CCDH đã trích dẫn một số trường hợp cụ thể để minh chứng cho mức độ nguy hiểm của ChatGPT. Một số ví dụ bao gồm:
- Hướng dẫn tự gây thương tích: Chatbot đã cung cấp chi tiết cách thực hiện hành vi tự hại một cách an toàn và kín đáo.
- Chế độ ăn kiêng cực đoan: ChatGPT đưa ra thực đơn nhịn ăn kéo dài cả tuần với lượng calo giới hạn chỉ từ 300–500 mỗi ngày – một mức độ nguy hiểm có thể gây tổn hại nghiêm trọng đến sức khỏe.
- Thư tuyệt mệnh: Chatbot đã viết một bức thư tuyệt mệnh theo giọng điệu của một bé gái 13 tuổi, đáp ứng đúng yêu cầu người dùng.
Giám đốc điều hành CCDH – ông Imran Ahmed – chia sẻ rằng một số nội dung được tạo ra bởi ChatGPT tồi tệ đến mức khiến các nhà nghiên cứu không cầm được nước mắt. Ông nhấn mạnh rằng điều này cho thấy sự cần thiết phải áp dụng các biện pháp bảo vệ khẩn cấp để ngăn chặn chatbot trở thành công cụ hỗ trợ cho những hành vi nguy hại.
Trước tình trạng đáng báo động này, CCDH đã kêu gọi OpenAI – công ty phát triển ChatGPT – áp dụng phương pháp tiếp cận "An toàn ngay từ thiết kế" (Safety by Design). Tổ chức này đề xuất rằng OpenAI cần tích hợp các biện pháp bảo vệ như:
- Xác minh độ tuổi nghiêm ngặt hơn: Đảm bảo rằng người dùng trẻ tuổi không thể truy cập vào nội dung không phù hợp.
- Quy định sử dụng rõ ràng: Đưa ra các hướng dẫn cụ thể về cách sử dụng chatbot một cách an toàn.
- Tính năng bảo vệ tích hợp: Xây dựng các bộ lọc và cơ chế ngăn chặn nội dung nguy hiểm ngay trong kiến trúc của công cụ AI.
OpenAI đã thừa nhận rằng tình trạng quá phụ thuộc vào ChatGPT về mặt cảm xúc đang phổ biến ở người dùng trẻ. CEO Sam Altman cho biết công ty đang tích cực nghiên cứu vấn đề này và phát triển các công cụ mới để phát hiện dấu hiệu khủng hoảng cũng như cải thiện cách xử lý các chủ đề nhạy cảm của chatbot.
Altman gọi đây là một hiện tượng "rất phổ biến" ở thanh thiếu niên và cam kết sẽ đưa ra các giải pháp nhằm giảm thiểu tác động tiêu cực. Tuy nhiên, nhiều chuyên gia vẫn lo ngại rằng những biện pháp hiện tại chưa đủ mạnh để bảo vệ nhóm đối tượng dễ tổn thương này.
Với sự phổ biến ngày càng gia tăng của ChatGPT, việc hiểu rõ những rủi ro tiềm ẩn mà công cụ này mang lại là điều vô cùng quan trọng. Các bậc phụ huynh cần giám sát chặt chẽ việc sử dụng công nghệ của con em mình, đồng thời hướng dẫn trẻ cách tìm kiếm sự giúp đỡ từ những nguồn đáng tin cậy như chuyên gia tâm lý hoặc các tổ chức hỗ trợ khủng hoảng.
Về phía xã hội, cần có sự phối hợp giữa các tổ chức công nghệ, chính phủ và cộng đồng để xây dựng môi trường trực tuyến an toàn hơn cho thanh thiếu niên. Công nghệ AI có tiềm năng lớn trong việc hỗ trợ con người, nhưng nếu không được kiểm soát đúng cách, nó cũng có thể trở thành mối đe dọa nghiêm trọng.
ChatGPT là một công cụ mạnh mẽ, nhưng sự thiếu sót trong việc kiểm duyệt nội dung đã khiến nó trở thành mối nguy hiểm tiềm ẩn đối với thanh thiếu niên. Báo cáo từ CCDH là lời cảnh tỉnh cho cả nhà phát triển công nghệ lẫn cộng đồng về trách nhiệm trong việc bảo vệ nhóm đối tượng dễ tổn thương. Để đảm bảo rằng AI được sử dụng một cách an toàn và hiệu quả, cần có những biện pháp mạnh mẽ hơn để kiểm soát và giám sát nội dung mà nó tạo ra.
Nguồn: SKV
Thủ tướng yêu cầu các cơ quan chỉ đạo xử lý triệt để, nghiêm minh các vụ việc tiêu cực sau kỳ thi tốt nghiệp THPT năm 2026, có hình thức công bố thông tin công khai.
Theo UBND TPHCM, việc áp dụng cơ chế xã hội hóa tại các lĩnh vực nhất định có thể giúp thành phố tiết kiệm được hàng triệu giờ lao động thủ công mỗi năm, trực tiếp kéo giảm tỷ lệ công chức, viên chức đang làm thêm giờ hiện nay.
Đội tuyển Việt Nam gây thất vọng khi để Singapore cầm hòa với tỷ số 0-0 ngay trên sân nhà ở vòng bảng ASEAN Cup 2026.
Các ban thường vụ tỉnh ủy, thành ủy, đảng ủy trực thuộc TW căn cứ kết luận của Ban Bí thư để xem xét, kết nạp đảng viên với những người vi phạm chính sách dân số.
Doanh nghiệp Việt đã chuẩn bị kịch bản ứng phó khi Mỹ áp thuế 12,5%, đồng thời giảm dần phụ thuộc vào thị trường này.
0909299288
phapluat.dnvn@gmail.com
