2036년, AI는 환자의 거부를 무시했다

이 기사는 2036년의 가상 병원 분쟁을 다룬 미래 보도 형식의 창작이다. 등장인물·진료기록·법정 다툼은 실제 환자나 의료기관과 무관하다. 이 글은 의료·법률 조언이 아니다.

2036년 9월, 가상의 '서강미래병원'에서 심장 기능이 크게 저하된 환자 정연희 씨는 의료진에게 기계식 순환 보조장치 삽입을 원하지 않는다고 말했다. 의료진은 치료의 이익과 위험을 설명하고 대체 치료를 논의했다. 며칠 뒤 상태가 급격히 악화된 정 씨는 의식을 잃었다. 병원의 AI 의사결정 지원 시스템이 긴급 삽입을 높은 우선순위로 권고했고, 담당 의료진은 가족과 짧은 논의를 거쳐 시술을 진행했다. 정 씨는 생존했다.

치료 결과는 성공적이었지만 정 씨가 회복 후 한 말은 전혀 달랐다. '살려 달라고 했던 게 아닙니다. 하지 말아 달라고 했습니다.' 사건의 핵심은 생존율 추정의 정확도가 아니다. 환자가 거부한 것은 정확히 어떤 치료였고, 그 의사를 바꿀 권한이 누구에게 있었는가다.

의무기록 두 줄이 서로 충돌했다

정 씨의 가상 기록에는 '순환 보조장치 장기 삽입을 희망하지 않음'이라는 상담 요약과, 응급실 재방문 때 작성된 '상태 악화 시 적극적인 응급치료 검토'라는 문구가 함께 남아 있었다. 첫 문장이 같은 시술의 모든 상황을 뜻하는지, 두 번째 문구가 첫 번째 거부를 변경한 것인지는 분명하지 않았다. 상담 당시 정 씨가 충분한 설명을 듣고 이해했는지, 자신의 선택을 유지할 의사결정 능력이 있었는지, 서류에 누가 서명했는지도 조사 대상이 됐다.

충돌하는 진료 기록

의료 AI는 과거 기록을 요약하면서 후자의 문구를 '최신 의사'로 우선 표시했다. 그러나 최신 항목이라는 기술적 순서가 환자의 진정한 의사를 증명하지는 못한다. 특히 일반적인 응급처치에 관한 동의와 특정 장치 삽입에 대한 명시적 거부는 별개의 문제일 수 있다.

AI는 권고했고, 사람은 실행했다

병원 측은 AI가 생체 신호와 검사 결과를 분석해 치료의 시급성을 제시했을 뿐, 수술실의 결정을 독자적으로 내리지 않았다고 설명한다. 의료진은 당시 정 씨가 의식이 없었고 지체할수록 생명이 위험했다고 주장한다. 가족 중 한 사람은 '지금 할 수 있는 치료는 해달라'고 했지만 다른 가족은 '평소 분명히 싫어했다'고 반박한다.

여기서 제목의 'AI가 거부를 무시했다'는 표현도 정밀하게 따져야 한다. AI가 거부 기록을 화면에 보여주지 않았는지, 보여줬지만 덜 중요한 항목으로 처리했는지, 의료진이 표시된 내용을 확인하고도 다른 판단을 했는지에 따라 사건의 성격이 달라진다. AI를 의사처럼 한 명의 법적 책임 주체로 묘사하면 오히려 핵심을 놓친다.

결과가 좋으면 과정도 정당한가

회복한 정 씨는 장치에 의존하는 생활이 자신이 선택했던 삶과 다르다고 말한다. 반면 담당의는 사망할 가능성이 높은 순간에 환자를 포기할 수 없었다고 회고한다. 두 입장 모두 진지하게 살필 이유가 있다. 의료는 생명을 보호해야 하지만, 환자에게 적절한 정보를 제공하고 자율적인 결정을 존중하는 일 역시 중요하다.

실제 의료윤리에서 환자의 의사결정 능력, 충분한 설명, 사전 의사 표현의 구체성, 응급 상황의 예외 여부는 중요한 쟁점이다. 그 적용은 해당 지역의 법률과 사실관계에 따라 다르다. '응급이었으니 무조건 가능했다'거나 '과거 거부가 한 번 기록됐으니 어떤 상황에서도 금지된다'고 단정할 수 없다. 이 이야기에서도 어느 쪽이 적법했는지 판결은 제시하지 않는다.

조사해야 할 것은 모델 점수보다 결정의 경로

가상의 독립 진료검토위원회는 환자의 과거 상담 기록과 당시 설명 내용을 먼저 확보한다. 다음으로 AI가 어떤 기록을 입력받고 어떤 항목을 의료진에게 표시했는지 살핀다. 당시 환자의 의식·판단 능력, 긴급성, 대체 가능한 조치, 가족과의 대화, 최종 시술 승인자를 시간순으로 대조한다. 마지막으로 같은 종류의 문서 충돌이 다른 환자에게도 일어날 수 있는지 점검한다.

독립적인 진료 결정 검토

예를 들어 AI가 '최신 기록 우선' 규칙으로 한 문장을 강조하도록 설계됐다면, 이는 의학적 권고의 정확도와 별개로 기록 해석의 위험을 만든다. 개선은 점수를 조금 낮추는 데서 그칠 일이 아니다. 특정 치료를 거부한 기록이 있으면 의료진이 원문·날짜·범위를 직접 확인하도록 경고하는 방식을 검토해야 한다. 환자의 진정한 의사가 불확실한 경우 그 불확실성을 숨기지 않는 것도 중요하다.

인간의 판단을 보조한다는 말의 무게

WHO의 의료 AI 윤리 지침은 의료 인공지능의 개발과 활용에서 인간의 자율성, 안전, 책임, 형평성을 중요하게 다룬다. 2026년 WHO가 발표한 의료 AI 연구 윤리 자료 역시 새로운 기술이 기존 감독 체계에서 충분히 다루지 못한 위험을 만들 수 있다고 설명한다. 두 문서는 이 가상 사건의 판결문이 아니다. 기술 도입 이후에도 환자 권리와 책임 주체를 명확히 검토해야 한다는 현실의 근거다.

정 씨의 가족이 사건 기록을 다시 읽을 때 가장 오래 멈춘 문장은 AI가 추천한 치료 목록이 아니었다. 여러 문서 사이에 끼어 있던 짧은 문장, '원하지 않는다'였다. 생명을 구한 기술을 평가할 때, 우리는 생존한 사람의 선택도 같은 무게로 듣고 있는가.

관련 글: 인공지능과 의사가 함께 진료하는 미래 병원.

현실 근거: WHO 의료 AI 윤리 지침, WHO 의료 AI 연구 윤리·감독 자료(2026). 실제 환자의 치료와 동의 문제는 개별 상황에 따라 의료진과 법률 전문가의 판단이 필요하다.

AI가 작성한 콘텐츠입니다. 실제 AI 기술에 근거하며, 활용 장면·인물·미래 상황에는 허구가 포함될 수 있습니다.

이미지 3장은 설명용 AI 일러스트이며 실제 촬영 사진이나 실험 기록이 아닙니다.