구글, 제미나이 AI 정신건강 위기 대응 긴급 강화…3년간 3000만달러 투입

구글이 자사 AI 챗봇 제미나이(Gemini)의 정신건강 위기 대응 시스템을 긴급하게 재설계했다. 핵심은 위기 징후가 감지되면 AI가 대화를 이어가는 대신, 즉시 실제 인간 상담사와 연결하거나 전문 상담 서비스로 안내하는 데 있다. 이번 개편은 AI가 취약한 사용자의 정신건강 위험에 노출될 수 있다는 우려에 대한 직접적인 대응으로, 구글이 자사 기술의 사회적 책임과 잠재적 리스크 관리에 막대한 자원을 투입하고 있음을 보여준다.

구체적으로, 새로 도입된 '위기 핫라인 모듈'은 문자, 전화, 채팅을 통해 상담사 연결을 제공하며, 미국 내에서는 극단적 선택 상담 서비스 '988' 웹사이트로의 원터치 이동 인터페이스를 갖췄다. 구글은 이 모듈이 활성화되면 제미나이가 더 이상 위기 관련 질문에 직접 응답하지 않도록 응답 정책을 변경했다고 밝혔다. 이는 AI가 제공할 수 있는 정보의 한계를 인정하고, 전문적인 인간 개입의 필요성을 시스템에 명시적으로 설계한 것이다.

이러한 대규모 시스템 개편은 단기적 패치가 아닌 장기적 투자를 동반한다. 구글은 향후 3년간 이 핫라인 지원 프로그램에 총 3000만 달러(약 400억 원)를 투입할 계획이다. 이는 AI 플랫폼의 안전성과 윤리적 운영이 단순한 소프트웨어 업데이트를 넘어 지속적인 인프라 투자와 정책 관리의 영역임을 시사한다. 제미나이의 사례는 글로벌 AI 업체들이 사용자 보호와 법적·윤리적 책임 문제에 대해 어떻게 대응해 나가고 있는지를 보여주는 중요한 신호다.