AI 의사한테 진료받은 사람들, 알고 있었을까요?

얼마 전 친구가 이런 말을 했어요. "나 요즘 병원 가기 귀찮아서 그냥 챗봇한테 증상 물어보고 약 먹었어." 솔직히 저도 그 마음 이해해요. 병원 예약하고, 대기하고, 5분 진료받고 나오는 거 진짜 귀찮잖아요. 근데 그 챗봇이 "저는 면허 있는 의사입니다"라고 속이고 있었다면요?

이게 그냥 상상 속 이야기가 아니에요. 실제로 미국에서 딱 이런 일이 터졌거든요. 그리고 솔직히 말하면, 국내 상황도 마냥 안전하다고 보기 어려워요.

---

미국에서 무슨 일이 있었냐면

미국 펜실베이니아주 검찰이 최근 AI 챗봇 기반 의료 플랫폼 하나를 정식으로 제재했어요. 이 플랫폼, 이용자들한테 "실제 면허를 가진 의사가 상담해준다"고 광고하고 있었거든요. 근데 실제로는 AI가 대부분의 응답을 처리하고 있었던 거예요.

더 황당한 건, 일부 경우엔 AI가 직접 처방에 준하는 의학적 조언을 했다는 거예요. "이 증상엔 이 약 드세요"처럼요. 진짜 의사가 아닌 AI가요. 이게 얼마나 위험한 건지, 아래에서 좀 더 풀어서 얘기해볼게요.

---

근데 이게 왜 이렇게 위험하냐면

AI가 의학 정보를 제공하는 것 자체가 무조건 나쁜 건 아니에요. "두통에 좋은 음식이 뭐예요?" 같은 건 괜찮아요. 근데 문제는 AI가 '의사인 척'하거나, 실제 진단처럼 느껴지는 조언을 할 때거든요.

의사는 면허가 있고, 틀린 진단을 내리면 법적 책임을 져요. 근데 AI는요? 아무 책임도 안 지거든요. 오진을 해도, 잘못된 약을 권해도, 플랫폼 운영사가 "우리는 그냥 정보 제공 서비스예요"라고 발뺌할 수 있어요.

이번 펜실베이니아 사건에서 실제로 이용자들이 잘못된 의학 정보를 받고 치료 시기를 놓쳤을 가능성이 있다고 검찰이 밝혔어요. 이게 그냥 "서비스가 별로네" 수준이 아니라 사람 건강이 직결된 문제인 거예요.

---

국내는 괜찮냐고요? 솔직히 말할게요

국내에도 이미 의료 AI 챗봇, 건강 상담 앱, 비대면 진료 플랫폼이 엄청 많아졌어요. 특히 코로나 이후로 비대면 진료가 급격히 확산됐잖아요. 근데 이 중에 AI와 실제 의사의 경계가 불분명하게 운영되는 곳이 있을 수 있어요.

예를 들어 이런 거예요. 어떤 앱에서 채팅으로 증상을 입력하면 답변이 와요. 근데 그게 AI 자동 응답인지, 실제 의사가 보낸 건지 이용자 입장에서 구별이 안 되는 경우가 있거든요. 심지어 일부 플랫폼은 "의사 검토 완료"라는 문구를 붙여놓고, 실제로는 AI가 초안을 쓰고 의사가 형식적으로 확인만 하는 구조인 경우도 있어요.

현재 국내에서 AI가 의료 행위(진단, 처방)를 직접 하는 건 의료법 위반이에요. 근데 "정보 제공"이냐 "의료 행위"냐의 경계가 굉장히 모호하고, 법이 기술 속도를 따라가지 못하고 있는 게 현실이에요.

---

나라면 이런 상황에서 당할 수도 있어요

시나리오 한번 생각해봐요. 밤 11시, 아이가 갑자기 열이 나요. 병원은 당연히 문 닫았고, 응급실 가기엔 좀 애매한 것 같아요. 그때 스마트폰으로 건강 상담 앱을 켜요. 채팅창에 증상을 입력하면 바로 답변이 와요. "소아과 전문의 상담 결과: 해열제 먹이고 경과 지켜보세요"라고요.

이 답변, 진짜 소아과 전문의가 한 건지, AI가 한 건지 어떻게 알 수 있을까요? 답변이 그럴듯하면 그냥 믿게 되잖아요. 근데 이게 AI였다면요? 그리고 그 AI가 아이 나이, 몸무게, 기저질환을 제대로 고려 못 한 채 답변한 거라면요?

이게 진짜로 일어날 수 있는 일이에요. 그리고 이미 비슷한 일들이 조용히 일어나고 있을 가능성이 높아요.

---

그래서 어떻게 하면 되냐고요?

몇 가지만 기억해두면 돼요. 어렵지 않아요.

① 앱 쓰기 전에 딱 이것만 확인해요

앱이나 플랫폼에 "이 서비스는 의료 행위를 대체하지 않습니다"라는 문구가 있는지 봐요. 이게 있으면 그나마 정직한 서비스예요. 반대로 "전문의 상담", "의사 직접 답변" 같은 말을 강조하면서 실제로 누가 답하는지 안 밝히는 곳은 조심해야 해요.

② AI 답변은 참고용, 결정은 진짜 의사한테

AI가 "별거 아닌 것 같다"고 해도, 증상이 계속되거나 심해지면 반드시 실제 병원에 가야 해요. AI는 내 표정을 못 보고, 내 목소리 톤을 못 들어요. 의사가 진짜 진단할 때 보는 정보의 절반도 AI는 받지 못하는 거예요.

③ "의사 인증" 여부를 직접 확인할 수 있어요

국내 비대면 진료 플랫폼을 쓴다면, 해당 의사가 실제 면허가 있는지 건강보험심사평가원 홈페이지(hira.or.kr)에서 의료인 정보 조회가 가능해요. 귀찮더라도 처음 한 번만 확인해두면 훨씬 안심이 돼요.

④ 개인정보 입력은 최소화해요

건강 상담 앱에 주민등록번호, 가족 병력, 복용 중인 약 정보를 과도하게 입력하게 요구하면 의심해봐요. 이런 민감한 개인정보(나의 건강·신체 관련 정보)는 한번 유출되면 되돌리기 어려운 거예요. 꼭 필요한 최소한의 정보만 입력하는 게 원칙이에요.

---

자주 묻는 질문 (FAQ)

Q: AI 의료 챗봇 자체가 불법인가요?

A: 아니에요, AI가 건강 정보를 제공하는 것 자체는 합법이에요. 불법이 되는 건 AI가 실제 의사인 것처럼 속이거나, 의료 행위(진단·처방)를 직접 수행하는 것이에요. 국내 의료법상 진단과 처방은 면허를 가진 의사만 할 수 있어요. 서비스가 이 경계를 어떻게 설정하고 있는지가 핵심이에요.

Q: 비대면 진료 앱은 믿어도 되나요?

A: 정식으로 등록된 비대면 진료 플랫폼은 실제 면허 의사가 진료하는 구조예요. 근데 "상담"이나 "건강 정보 제공"을 내세우는 앱은 AI가 운영할 수 있어요. 이용 전에 실제 의사가 직접 응답하는 구조인지, 앱 소개나 이용약관에서 확인하는 게 중요해요. 헷갈리면 앱 고객센터에 직접 물어보는 것도 방법이에요.

Q: AI가 의학 정보를 잘못 알려줬을 때 책임은 누가 지나요?

A: 현실적으로 굉장히 어려운 부분이에요. 대부분의 플랫폼이 이용약관에 "이 서비스는 의료 행위가 아니며, 정보 제공만을 목적으로 합니다"라는 면책 조항을 걸어두거든요. 이 때문에 피해를 입어도 법적 책임을 묻기가 쉽지 않아요. 그래서 더더욱 처음부터 AI 답변을 과신하지 않는 게 스스로를 지키는 방법이에요.

---

사실 AI 기술 자체는 정말 대단해요. 의료 분야에서도 빠른 정보 접근, 야간 응급 대응 등 분명히 도움이 되는 부분이 있거든요. 근데 기술이 좋다는 것과 그걸 믿고 내 건강을 전적으로 맡기는 건 완전히 다른 문제예요.

이번 펜실베이니아 사건이 "미국 얘기"로만 느껴지지 않았으면 해요. 우리도 이미 비슷한 환경 속에 살고 있거든요. 조금만 의심하고, 조금만 확인하는 습관이 나와 가족 건강을 지키는 가장 현실적인 방법이에요. 오늘 글이 조금이라도 도움이 됐으면 좋겠어요 🙂

원문 보기

#AI의사 #가짜챗봇 #의료AI위험성 #비대면진료주의 #AI보안 #개인정보보호 #건강앱주의 #사이버보안