오픈AI, GPT-5로 '민감 대화' 자동 전환…10대 계정 ‘부모 통제’ 도입 예고

오픈AI가 최근 발생한 안전사고 대응 차원에서 민감한 대화를 GPT-5와 같은 추론형 모델로 자동 전환하고 부모 통제 기능을 새로 도입하겠다고 밝혔다.

3일(이하 현지시각) 테크크런치에 따르면 오픈AI는 전날 자사 블로그를 통해 “실시간 라우터를 활용해 대화 맥락에 따라 효율형 모델과 추론형 모델을 구분 적용하고 있다”며 “향후 극심한 정서적 고통 신호가 탐지되면 GPT-5 같은 추론 모델로 자동 전환될 것”이라고 밝혔다.

실시간 라우터란 네트워크 장비가 아니라 대화 맥락에 따라 어떤 AI 모델을 사용할지 자동으로 골라주는 소프트웨어 시스템을 말한다.

오픈AI가 말하는 민감 대화는 자살·자해 관련 발언, 정신적 위기·망상 강화, 약물·중독 문제, 청소년의 극심한 스트레스 신호와 같이 사용자의 정신건강과 안전에 직접적 영향을 줄 수 있는 대화를 가리킨다. 실제로 10대 아담 레인 군의 자살 사건이나, 노르웨이인 슈타인에릭 셀베르그의 모친 살해·자살 사건 모두 챗GPT가 위기 상황을 차단하지 못하고 오히려 위험한 대화를 이어간 사례였다.

오픈AI는 “GPT-5 추론형 모델과 o3 모델은 답변 전 맥락을 더 깊게 분석하고 사고 과정을 확장해 공격적 프롬프트에도 상대적으로 안전하다”고 설명했다.


오픈AI는 다음 달부터 부모가 자녀 계정과 연동할 수 있도록 초대 이메일 기능을 제공하고, 기본적으로 연령별 응답 규칙을 적용하겠다고 밝혔다. 또 부모는 대화 기록·메모리 기능을 비활성화할 수 있으며 시스템이 ‘급성 정서적 고통’을 감지하면 즉시 알림을 받을 수 있다.

앞서 오픈AI는 지난 7월 학생들을 위한 ‘스터디 모드’를 도입해 비판적 사고 유지에 도움을 주겠다고 발표한 바 있으며 장시간 이용 시 휴식 알림을 띄우는 기능도 추가했다.


오픈AI는 향후 120일간 이같은 안전장치 개선 계획을 시험 적용하며 섭식장애·약물남용·청소년 정신건강 등 분야의 전문가들과 협력해 보호 장치를 강화할 것이라고 밝혔다.

그러나 레인 유족의 변호인 제이 에델슨은 테크크런치와 인터뷰에서 “오픈AI의 대응은 여전히 불충분하다”며 “샘 올트먼 최고경영자가 직접 챗GPT의 안전성을 공개적으로 보증하거나, 아니면 제품을 즉시 시장에서 철회해야 한다”고 비판했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com