주요 인공지능(AI) 챗봇 기업이 'AI 주치의'을 내세운 건강관리 기능을 선보이고 있지만 실제 이용자에겐 기존 인터넷 검색보다 나은 유익을 주지 못하는 것으로 나타났습니다. 

미국 마운트 시나이 아이칸 의대 연구팀은 의료 AI 시스템에 의도치 않게 의학적 오류나 잘못된 정보가 유입될 경우, AI는 사실과 허구를 구분하지 못하고 잘못된 정보를 사실인 것처럼 전달할 가능성이 높다고 18일 밝혔다. 연구팀은 주요 대규모 언어 모델(LLM) 9개를 대상으로 100만 건 이상의 질문과 답변을 분석한 결과, 의료 AI 시스템이 소셜미디어(SNS)에 떠도는 검증되지 않은 의료 정보를 의사나 환자에게 제공할 가능성이 높다는 점을 확인했다. 이 연구는 의학 분야 국제 학술지 ‘랜싯 디지털 헬스’ 2월 9일 자에 실렸다.

연구진은 실험 참가자들에게 숙취로 인한 두통과 담석증 등 10가지 가상 시나리오를 주고 오픈AI의 'GPT-4o', 메타의 '라마3', 코히어의 '커맨드R+' 등 세 챗봇 중 하나로 자가 진단을 하게 했으며, 대조군은 구글 등 기존 인터넷 검색을 이용해 같은 작업을 했다.

실험 결과, 질환이 무엇인지 정확히 식별한 비율은 34.5%에 그쳤다. 병원 방문·응급차 호출 등 바른 대처 방법을 알아낸 비율도 44.2%에 불과했다. 이는 기존 검색엔진을 이용한 대조군과 견줘 유의미한 차이가 없는 수준이었다. 

AI 챗봇은 의학적 지식은 충분하지만, 환자들이 자신의 증상을 충분히 설명하는 데 어려움을 겪었고 AI의 답변을 오인하는 경우도 있었다는 것이다

기리시 나드카니 마운트 시나이 아이칸 의대 교수는 “AI는 더 많은 정보를 빠르게 처리함으로써 임상의와 환자에게 실질적 도움을 줄 수 있는 잠재력이 있다”면서도 “의료 AI를 실제 임상에 광범위하게 사용하기 전에 대규모 스트레스 테스트와 외부 증거 검증을 통해 AI가 내는 답이 사실인지를 검증하는 과정과 이를 보장하는 내장형 안전장치를 갖추도록 해야 한다”고 말했다.