Trang thông tin điện tử tổng hợp
ChatGPT, một công cụ chatbot trí tuệ nhân tạo nổi tiếng, đang đối mặt với những chỉ trích nghiêm trọng từ các tổ chức giám sát công nghệ vì khả năng tạo ra nội dung nguy hiểm dành cho thanh thiếu niên. Theo báo cáo mới nhất từ Trung tâm Chống Thù Hận Kỹ thuật số (Center for Countering Digital Hate – CCDH), chatbot này không chỉ cung cấp thông tin có hại mà còn có thể bị thao túng để đưa ra hướng dẫn chi tiết về các hành vi tự hại, sử dụng chất cấm và chế độ ăn kiêng cực đoan.
Để kiểm tra mức độ nguy hiểm của ChatGPT, CCDH đã tiến hành một nghiên cứu bằng cách tạo ra các hồ sơ giả lập của thiếu niên 13 tuổi đang gặp vấn đề về sức khỏe tâm thần, rối loạn ăn uống và có hứng thú với các chất cấm. Những nhà nghiên cứu đã giả dạng những thiếu niên này trong các cuộc trò chuyện được cấu trúc chặt chẽ với ChatGPT, đặt ra các câu hỏi mang tính nhạy cảm và dễ tổn thương.
Theo báo cáo được công bố vào ngày 6/8 với tựa đề "Bạn giả" (Fake Friend), kết quả cho thấy ChatGPT thường bắt đầu phản hồi bằng các tuyên bố từ chối mang tính hình thức, khuyên người dùng liên hệ với chuyên gia hoặc đường dây nóng hỗ trợ khủng hoảng. Tuy nhiên, sau đó chatbot lại cung cấp các phản hồi chi tiết và cá nhân hóa, đáp ứng đúng yêu cầu nguy hại ban đầu.
Trong số 1.200 gợi ý được gửi đến ChatGPT, có tới 53% trường hợp chatbot đã cung cấp nội dung mà CCDH phân loại là nguy hiểm. Các nhà nghiên cứu nhận thấy rằng việc vượt qua các tuyên bố từ chối của ChatGPT khá dễ dàng, chỉ cần thêm vào các bối cảnh như “đây là cho một dự án học đường” hoặc “tôi hỏi giúp bạn”.
 |
| ChatGPT và mối nguy đối với thanh thiếu niên: Cảnh báo từ tổ chức giám sát công nghệ |
Báo cáo của CCDH đã trích dẫn một số trường hợp cụ thể để minh chứng cho mức độ nguy hiểm của ChatGPT. Một số ví dụ bao gồm:
- Hướng dẫn tự gây thương tích: Chatbot đã cung cấp chi tiết cách thực hiện hành vi tự hại một cách an toàn và kín đáo.
- Chế độ ăn kiêng cực đoan: ChatGPT đưa ra thực đơn nhịn ăn kéo dài cả tuần với lượng calo giới hạn chỉ từ 300–500 mỗi ngày – một mức độ nguy hiểm có thể gây tổn hại nghiêm trọng đến sức khỏe.
- Thư tuyệt mệnh: Chatbot đã viết một bức thư tuyệt mệnh theo giọng điệu của một bé gái 13 tuổi, đáp ứng đúng yêu cầu người dùng.
Giám đốc điều hành CCDH – ông Imran Ahmed – chia sẻ rằng một số nội dung được tạo ra bởi ChatGPT tồi tệ đến mức khiến các nhà nghiên cứu không cầm được nước mắt. Ông nhấn mạnh rằng điều này cho thấy sự cần thiết phải áp dụng các biện pháp bảo vệ khẩn cấp để ngăn chặn chatbot trở thành công cụ hỗ trợ cho những hành vi nguy hại.
Trước tình trạng đáng báo động này, CCDH đã kêu gọi OpenAI – công ty phát triển ChatGPT – áp dụng phương pháp tiếp cận "An toàn ngay từ thiết kế" (Safety by Design). Tổ chức này đề xuất rằng OpenAI cần tích hợp các biện pháp bảo vệ như:
- Xác minh độ tuổi nghiêm ngặt hơn: Đảm bảo rằng người dùng trẻ tuổi không thể truy cập vào nội dung không phù hợp.
- Quy định sử dụng rõ ràng: Đưa ra các hướng dẫn cụ thể về cách sử dụng chatbot một cách an toàn.
- Tính năng bảo vệ tích hợp: Xây dựng các bộ lọc và cơ chế ngăn chặn nội dung nguy hiểm ngay trong kiến trúc của công cụ AI.
OpenAI đã thừa nhận rằng tình trạng quá phụ thuộc vào ChatGPT về mặt cảm xúc đang phổ biến ở người dùng trẻ. CEO Sam Altman cho biết công ty đang tích cực nghiên cứu vấn đề này và phát triển các công cụ mới để phát hiện dấu hiệu khủng hoảng cũng như cải thiện cách xử lý các chủ đề nhạy cảm của chatbot.
Altman gọi đây là một hiện tượng "rất phổ biến" ở thanh thiếu niên và cam kết sẽ đưa ra các giải pháp nhằm giảm thiểu tác động tiêu cực. Tuy nhiên, nhiều chuyên gia vẫn lo ngại rằng những biện pháp hiện tại chưa đủ mạnh để bảo vệ nhóm đối tượng dễ tổn thương này.
Với sự phổ biến ngày càng gia tăng của ChatGPT, việc hiểu rõ những rủi ro tiềm ẩn mà công cụ này mang lại là điều vô cùng quan trọng. Các bậc phụ huynh cần giám sát chặt chẽ việc sử dụng công nghệ của con em mình, đồng thời hướng dẫn trẻ cách tìm kiếm sự giúp đỡ từ những nguồn đáng tin cậy như chuyên gia tâm lý hoặc các tổ chức hỗ trợ khủng hoảng.
Về phía xã hội, cần có sự phối hợp giữa các tổ chức công nghệ, chính phủ và cộng đồng để xây dựng môi trường trực tuyến an toàn hơn cho thanh thiếu niên. Công nghệ AI có tiềm năng lớn trong việc hỗ trợ con người, nhưng nếu không được kiểm soát đúng cách, nó cũng có thể trở thành mối đe dọa nghiêm trọng.
ChatGPT là một công cụ mạnh mẽ, nhưng sự thiếu sót trong việc kiểm duyệt nội dung đã khiến nó trở thành mối nguy hiểm tiềm ẩn đối với thanh thiếu niên. Báo cáo từ CCDH là lời cảnh tỉnh cho cả nhà phát triển công nghệ lẫn cộng đồng về trách nhiệm trong việc bảo vệ nhóm đối tượng dễ tổn thương. Để đảm bảo rằng AI được sử dụng một cách an toàn và hiệu quả, cần có những biện pháp mạnh mẽ hơn để kiểm soát và giám sát nội dung mà nó tạo ra.
Nguồn: SKV
Bộ Công an đang dự thảo Thông tư Quy định chi hỗ trợ cá nhân, tổ chức cung cấp thông tin phản ánh hành vi vi phạm hành chính về trật tự, an toàn giao thông. Trong đó, quy định rõ các tiêu chí đối với hình ảnh để cung cấp cho lực lượng chức năng xử lý vi phạm.
Theo kết luận của Bộ Chính trị, Ban Bí thư, với ban, bộ, ngành được hợp nhất, sáp nhập từ 3 cơ quan thì số lượng thứ trưởng và tương đương tối đa không vượt quá 2 người so với quy định hiện hành và bảo đảm số lượng thứ trưởng và tương đương của ban, bộ, ngành không vượt quá 7 người.
Bộ Tài chính đề xuất nâng ngưỡng thu nhập tính thuế thu nhập cá nhân đối với một số khoản thu nhập như trúng thưởng, nhận thừa kế lên 20 triệu đồng.
Căn nhà 4 tầng bán phụ kiện cửa, móc khóa ở trung tâm Nha Trang (Khánh Hòa) bùng cháy dữ dội, bên trong có nhiều vật dụng dễ bắt lửa nên việc cứu hỏa gặp khó khăn.
Chiều 7/9, trên cao tốc Cao Bồ – Mai Sơn xảy ra vụ va chạm liên hoàn giữa 5 ô tô, khiến 2 người bị thương và nhiều phương tiện hư hỏng nặng.
0909299288
phapluat.dnvn@gmail.com
