Character.AI hạn chế trò chuyện mở đối với người dùng dưới 18 tuổi và giới thiệu các biện pháp an toàn

Nền tảng chatbot hỗ trợ AI, Nhân vật.AI đã thông báo rằng người dùng dưới 18 tuổi sẽ không còn có thể tham gia vào các cuộc trò chuyện mở với chatbot AI của mình nữa, sau những lo ngại từ các nhà lập pháp và gia đình về những rủi ro tiềm ẩn của nền tảng này đối với thanh thiếu niên.

Thay đổi này dự kiến ​​có hiệu lực từ ngày 25 tháng 11. Trong thời gian chờ đợi, nền tảng dự kiến ​​sẽ giới thiệu một trải nghiệm được điều chỉnh dành cho người dùng dưới 18 tuổi, cho phép họ tiếp tục các hoạt động sáng tạo như sản xuất video, câu chuyện và phát trực tiếp tương tác với các nhân vật. Trong quá trình chuyển đổi này, các phiên trò chuyện dành cho người dùng dưới 18 tuổi sẽ bị giới hạn ở mức hai giờ mỗi ngày, và thời lượng trò chuyện dự kiến ​​sẽ được rút ngắn hơn nữa trong những tuần trước khi triển khai đầy đủ.

Ngoài ra, Character.AI sẽ triển khai các biện pháp xác minh độ tuổi mới để đảm bảo người dùng được cung cấp các tính năng phù hợp với độ tuổi của họ. Công ty đã phát triển một hệ thống xác minh độ tuổi nội bộ và sẽ tích hợp hệ thống này với các công cụ của bên thứ ba, bao gồm Persona, để nâng cao độ chính xác và độ tin cậy.

Nền tảng này cũng công bố việc thành lập và tài trợ cho Phòng thí nghiệm An toàn AI (AI Safety Lab), một tổ chức phi lợi nhuận độc lập chuyên thúc đẩy sự đồng bộ về an toàn trong lĩnh vực giải trí AI. Phòng thí nghiệm sẽ tập trung vào việc phát triển các phương pháp tiếp cận an toàn sáng tạo, hợp tác với các chuyên gia bên ngoài và chia sẻ các kết quả nghiên cứu. Character.AI mong muốn phòng thí nghiệm sẽ tập trung vào an toàn cho giải trí AI ở mức độ tương đương với các ứng dụng AI khác, và dự kiến ​​sẽ thu hút các công ty công nghệ, học giả, nhà nghiên cứu và nhà hoạch định chính sách tham gia vào sáng kiến ​​này.

Character.AI cập nhật nền tảng dành cho người dưới 18 tuổi để tăng cường an toàn cho thanh thiếu niên trong bối cảnh lo ngại về quy định

Character.AI đã công bố những thay đổi đối với nền tảng dành cho người dùng dưới 18 tuổi nhằm ứng phó với những lo ngại ngày càng tăng về tương tác AI với thanh thiếu niên. Các báo cáo và yêu cầu gần đây từ các cơ quan quản lý đã nêu bật những rủi ro tiềm ẩn liên quan đến các cuộc trò chuyện AI mở, ngay cả khi đã áp dụng các biện pháp kiểm soát nội dung. Sau khi xem xét phản hồi từ các cơ quan quản lý, chuyên gia an toàn và phụ huynh, công ty xác định rằng việc điều chỉnh trải nghiệm dành cho người dùng dưới 18 tuổi là cần thiết để bảo vệ người dùng trẻ tuổi tốt hơn.

Những điều chỉnh này thể hiện những bước tiến đáng kể của nền tảng và nhìn chung thận trọng hơn so với các biện pháp được thực hiện bởi các dịch vụ tương tự. Mục tiêu là ưu tiên sự an toàn của người dùng tuổi teen, đồng thời vẫn tạo cơ hội cho sự sáng tạo, khám phá và tương tác. Character.AI dự định tiếp tục hợp tác với các chuyên gia an toàn, cơ quan quản lý và các bên liên quan khác để đảm bảo việc bảo vệ người dùng vẫn là trọng tâm trong quá trình nền tảng phát triển các tính năng mới khuyến khích sự sáng tạo và tương tác cộng đồng.

Character.AI là nền tảng AI đàm thoại cho phép người dùng tương tác và tạo ra các nhân vật do AI điều khiển hoặc nhân vật bot, được hỗ trợ bởi các mô hình ngôn ngữ lớn.