OpenAI Giới thiệu các biện pháp an toàn nâng cao cho thanh thiếu niên và kiểm soát của phụ huynh đối với ChatGPT

OpenAI , một tổ chức nghiên cứu trí tuệ nhân tạo, đã công bố các bản cập nhật nhằm tăng cường an toàn cho người dùng tuổi teen. 

Công ty giải thích rằng ChatGPT tương tác với trẻ 15 tuổi sẽ khác với tương tác với người lớn và đang phát triển một hệ thống dài hạn để đánh giá xem người dùng trên hay dưới 18 tuổi để có thể điều chỉnh trải nghiệm cho phù hợp.

Người dùng được xác định là dưới 18 tuổi sẽ được chuyển hướng đến ChatGPT kinh nghiệm với các chính sách phù hợp với lứa tuổi, bao gồm chặn nội dung khiêu dâm và, trong trường hợp hiếm hoi có thể gây đau khổ nghiêm trọng, có khả năng liên quan đến cơ quan thực thi pháp luật để đảm bảo an toàn.

Trong trường hợp không thể xác định chắc chắn độ tuổi hoặc thông tin không đầy đủ, nền tảng sẽ mặc định dành cho người dưới 18 tuổi, đồng thời cung cấp cho người lớn các phương pháp xác minh độ tuổi để truy cập các tính năng dành cho người lớn.

Trong thời gian tạm thời, kiểm soát của phụ huynh được kỳ vọng là phương pháp hiệu quả nhất để các gia đình quản lý ChatGPT được sử dụng ở nhà. 

Các biện pháp kiểm soát này, dự kiến ​​sẽ có hiệu lực vào cuối tháng, sẽ cho phép phụ huynh liên kết tài khoản của họ với tài khoản của thanh thiếu niên, với điều kiện thanh thiếu niên đó ít nhất 13 tuổi, bằng cách sử dụng lời mời qua email đơn giản. 

Cha mẹ sẽ có thể hướng dẫn cách ChatGPT phản hồi cho con mình theo các quy tắc ứng xử dành riêng cho con, quản lý các tính năng được bật hoặc tắt—bao gồm bộ nhớ và lịch sử trò chuyện—và nhận thông báo nếu hệ thống phát hiện con mình đang gặp phải tình trạng đau khổ nghiêm trọng.

 Trong những trường hợp khẩn cấp hiếm hoi mà không thể liên lạc được với phụ huynh, cơ quan thực thi pháp luật có thể can thiệp, với sự hướng dẫn của chuyên gia để thiết lập tính năng này nhằm duy trì sự tin tưởng giữa cha mẹ và con cái. Ngoài ra, cha mẹ có thể thiết lập giờ giới hạn truy cập để con cái không thể truy cập. ChatGPT. Các biện pháp kiểm soát của phụ huynh này bổ sung cho các tính năng nền tảng hiện có, chẳng hạn như lời nhắc trong ứng dụng khuyến khích trẻ nghỉ giải lao trong các buổi học kéo dài.

Trí tuệ nhân tạo và sức khỏe tâm thần của thanh thiếu niên: FTC điều tra các nền tảng Chatbot trong bối cảnh lo ngại về pháp lý và an toàn ngày càng tăng

Mùa hè này đã chứng kiến ​​một loạt các báo cáo đáng lo ngại về vai trò của AI trong sự cố sức khỏe tâm thần , trùng với việc tăng cường giám sát theo quy định và các hành động pháp lý đang diễn ra. 

Các vụ kiện đã được đệ trình chống lại Character.AI và OpenAI , tuyên bố rằng nền tảng của họ đã góp phần vào thanh thiếu niên tự tử và tự làm hại bản thân bằng cách không cung cấp hỗ trợ đầy đủ trong những thời điểm quan trọng. Để ứng phó, Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đã bắt đầu điều tra cách các công ty công nghệ lớn thiết kế và giám sát các chatbot AI được tiếp thị như những người bạn đồng hành, đặc biệt là cho người dùng trẻ tuổi. 

Bất chấp những nỗ lực này, tính khả dụng rộng rãi của nhiều tùy chọn chatbot khác nhau, bao gồm các mô hình nguồn mở và riêng tư, có nghĩa là việc giải quyết những rủi ro này vẫn là một thách thức phức tạp và dai dẳng.