OpenAI đã bổ sung tính năng “liên hệ tin cậy” cho ChatGPT, cho phép hệ thống gửi cảnh báo tới người do người dùng đăng ký trước trong trường hợp phát hiện dấu hiệu khủng hoảng sức khỏe tinh thần và nguy cơ tự hại.

Theo The Verge ngày 7/5 (giờ địa phương), người dùng trưởng thành có thể thêm số liên lạc của một người trưởng thành khác, như thành viên gia đình hoặc bạn bè, trong phần cài đặt tài khoản ChatGPT.

Đây là tính năng tùy chọn. Người dùng chỉ có thể sử dụng khi chủ động bật tính năng và nhập thông tin của người liên hệ trong cài đặt. Tại Hàn Quốc, người được chỉ định làm liên hệ tin cậy phải từ 19 tuổi trở lên và cần chấp nhận lời mời trong vòng một tuần. Người dùng có thể chỉnh sửa hoặc xóa liên hệ này bất cứ lúc nào, trong khi phía được chỉ định cũng có thể ngắt kết nối khi cần.

OpenAI cho biết tính năng mới được thiết kế để giúp người dùng trong tình huống khủng hoảng kết nối nhanh hơn với người mà họ tin tưởng. Công ty cho rằng chỉ riêng việc tạo cầu nối giữa người đang gặp khủng hoảng với một người đáng tin cậy cũng có thể tạo ra khác biệt đáng kể. Theo OpenAI, đây là lớp hỗ trợ bổ sung bên cạnh các đường dây trợ giúp theo từng khu vực vốn đã có trên ChatGPT.

Thông báo gửi tới liên hệ tin cậy sẽ không bao gồm nội dung cuộc trò chuyện. Khi hệ thống tự động của OpenAI phát hiện người dùng đang trao đổi với những dấu hiệu cho thấy có ý định tự làm hại bản thân, ChatGPT sẽ khuyến nghị họ chủ động tìm kiếm sự hỗ trợ từ liên hệ tin cậy, đồng thời thông báo trước rằng người này có thể nhận được cảnh báo.

Sau đó, một nhóm nhân sự được đào tạo chuyên biệt sẽ rà soát tình huống. Nếu cuộc trò chuyện được đánh giá là có rủi ro an toàn nghiêm trọng, ChatGPT sẽ gửi một email ngắn, tin nhắn hoặc thông báo trong ứng dụng tới liên hệ tin cậy.

Trong lĩnh vực nền tảng số, các biện pháp ứng phó tương tự cũng đang dần được triển khai. Vì vậy, cách các dịch vụ AI tạo sinh và mạng xã hội phát hiện tín hiệu rủi ro về sức khỏe tinh thần, cũng như mức độ can thiệp phù hợp, được cho là sẽ tiếp tục thu hút chú ý.

Dù vậy, OpenAI nhấn mạnh tính năng này không vận hành theo cơ chế cảnh báo tự động đại trà. Người dùng phải tự kích hoạt và đăng ký liên hệ từ trước, đồng thời mọi cảnh báo chỉ được gửi đi sau khi đã qua bước rà soát của con người. Cách tiếp cận này giúp mở rộng khả năng can thiệp an toàn nhưng vẫn hạn chế việc chia sẻ thông tin từ cuộc trò chuyện.

Người được chỉ định làm liên hệ tin cậy không đóng vai trò chuyên gia tư vấn hay lực lượng ứng phó khủng hoảng. Theo OpenAI, vai trò của họ là chủ động liên lạc để kiểm tra tình hình của người dùng, và nếu cần có thể kết nối thêm với gia đình, bạn bè, chuyên gia sức khỏe tinh thần, đường dây trợ giúp hoặc dịch vụ khẩn cấp.

Tính năng mới cho thấy ChatGPT đang mở rộng cơ chế bảo vệ trong các tình huống khủng hoảng sức khỏe tinh thần, không chỉ dừng ở tương tác trong ứng dụng mà hướng tới việc kết nối người dùng với hỗ trợ ngoài đời thực. OpenAI cho biết trong thời gian qua, công ty đã tiếp tục cải thiện khả năng nhận diện dấu hiệu tự hại, tự sát trong các cuộc trò chuyện nhạy cảm, đồng thời tăng cường cách đưa người dùng tới các hệ thống hỗ trợ thực tế.