News
OpenAI, 정신건강 대화용 AI 안전 평가 기준 MentalHealthBench 공개
OpenAI가 22개국의 정신건강 전문가 80여 명과 함께, 일상 고민부터 위기 상황까지 인공지능 답변의 안전성과 도움 정도를 평가하는 공개 기준 MentalHealthBench를 내놨습니다. 쉽게 말하면 위험한 답을 피하는지만 보는 대신 상황 파악, 이용자 선택권 존중, 실행 가능한 안내까지 항목별로 점검하며, 연구자들이 자체 평가에 쓸 수 있도록 공개한 것입니다. 정신건강 AI의 품질을 비교하고 개선하는 공통 도구가 될 수 있지만, 회사가 공개한 연구 결과이고 ChatGPT가 치료나 전문 진료를 대신한다는 뜻은 아니므로 위기 상황에서는 반드시 현지 전문기관과 응급 지원을 이용해야 합니다.
- 출처OpenAI
- 원문 발행
- KAIPS 게시
이 글은 연구회가 작성한 한국어 요약입니다. 원문의 저작권은 OpenAI에 있으며, 전문은 원문에서 확인해 주세요.