2037년, 로봇이 인간의 출근을 거부했다

2037년의 가상 제조 현장을 배경으로 쓴 미래 뉴스다. 공장·근로자·노사협의·AI 판정·사고는 모두 창작이며 실제 기업의 운영을 묘사하지 않는다.

2037년 3월 어느 월요일 오전 7시 52분, 숙련 정비사 박민호 씨의 출입증이 공장 입구에서 거절됐다. 게이트 화면에는 '고위험 작업자: 자동화 구역 출입 제한'이라고 표시됐다. 박 씨는 20년 가까이 로봇 설비를 점검했지만 사고를 낸 적이 없었다고 항의했다. 보안 담당자는 게이트를 여는 권한이 자신에게 없다고 설명했다. 사람을 보호하도록 도입한 AI가 사람을 일터에서 막아버린 것이다.

그날의 질문은 로봇이 박 씨를 싫어했는지가 아니다. 어떤 위험 신호가 누구의 검토를 거쳐 출근 제한이라는 결정으로 이어졌는가다.

판정은 출입문보다 먼저 내려졌다

가상의 기업 '다온모션'은 로봇 팔과 자율운반차가 뒤섞인 조립 공장을 운영한다. AI 안전 관리자는 설비 이상 경고, 작업자 자격, 피로 추정치, 보호구 착용 여부를 취합한다. 지난주 박 씨는 정비 작업 중 로봇을 긴급 정지시킨 뒤 안전 구역에 들어가 부품을 교환했다. 시스템에는 정지 시각과 출입 기록이 서로 어긋난 상태로 남았다.

서로 어긋난 안전 기록

AI는 이를 '로봇 동작 중 보호구역 진입 가능성'으로 분류했다. 그러나 확인해야 할 것은 두 가지였다. 센서 시계가 일치했는지, 박 씨가 실제 위험 절차를 위반했는지다. 정지 버튼을 누른 기록이 다른 시스템에 남아 있다면 위험 판정은 데이터 정합성 문제일 수 있다. 반대로 정상적인 정비 절차라도 새로운 위험을 만들었다면 점검이 필요하다.

회사는 안전을 말하고, 노동자는 설명을 요구한다

공장장은 'AI 차단을 함부로 해제했다가 사고가 나면 더 큰 책임이 생긴다'고 주장한다. 박 씨는 '위험하다는 이유도 공개하지 않고 일할 기회를 빼앗았다'고 맞선다. 안전 담당 노조 대표는 양쪽에 다른 제안을 한다. '당장 무조건 들여보내라는 것이 아니다. 정지된 점검 구역에서 공동 재현 시험을 하고, 재검토 결과가 나올 때까지 대체 업무를 보장하라.'

이 문제는 잘못된 기술 점수를 공개하느냐의 싸움만은 아니다. 기업은 설비 보안 때문에 모든 위험 규칙을 외부에 공개할 수 없다고 말할 수 있다. 그래도 해당 근로자가 어느 기록과 행동 때문에 제한됐는지 이해하고 다툴 수 있도록 설명하는 방법은 필요하다. 전체 알고리즘을 공개하는 것과 판정 근거를 설명하는 것은 구분할 수 있다.

다섯 번의 출근이 사라지는 동안

박 씨의 출입 제한은 다음 날도 풀리지 않았다. 회사는 사고 예방을 위해 작업 배정을 보류했고, 박 씨는 임금과 평판에 영향을 받았다고 주장한다. 자동 출입 제한은 형식적으로 해고와 다르지만, 장기간 정상적인 업무와 소득에서 배제한다면 노동 조건에 실질적 영향을 준다. 가상의 노사협의회는 안전 AI의 제한 결정을 누가 검토할지 정하는 데 가장 많은 시간을 썼다.

내부 점검에서 출입 센서의 시간 동기화 오류가 의심됐지만, 위반이 없었다는 최종 판정은 나오지 않았다. 협의회는 정밀 재검증 전까지 로봇 동작 구역은 제한하되 박 씨가 다른 점검 업무를 할 수 있게 했다. 이는 시스템 경고를 무시하는 것도, 경고 하나로 사람의 생계를 끊는 것도 아닌 임시 선택이었다.

인간이 개입하면 자동화가 느려질까

안전 자동화는 위험을 빠르게 차단하는 데 강점이 있다. 급박한 순간 로봇이 멈춰야 하는데 관리자 결재를 기다릴 이유는 없다. 문제는 긴급 정지라는 기술적 조치가 그 뒤의 징계·평가·근로 제한으로 자동 확장될 때다. 위험 차단은 즉시 실행하더라도, 사람에게 불이익을 주는 장기 결정은 설명과 재심사를 거치도록 구분할 수 있다.

노사가 함께 안전 판정을 재검토하다

이 공장이 도입할 수 있는 가상의 개선안은 다음과 같다. 먼저 출입 차단의 이유를 기록하고 독립된 관리자가 그 기록을 열람하도록 한다. 근로자가 오류 자료를 제출할 경로를 만들고, 재심사 기한과 임시 업무 배치 기준을 정한다. 마지막으로 동일 유형의 오탐이 반복되는지 점검하고 AI 모델 변경 사항을 추적한다. 특정 기간이나 절차를 현행법의 의무로 단정하는 것은 아니다.

누가 문을 여는가보다 누가 결정을 고치는가

UNESCO AI 윤리 권고는 AI에 대한 인간의 감독, 책임, 피해 구제와 감사 가능성의 필요성을 강조한다. 이는 안전 AI를 없애라는 뜻이 아니다. 오히려 안전 시스템이 신뢰를 얻으려면 잘못된 판정을 발견하고 수정할 수 있어야 한다는 의미로 읽을 수 있다.

다온모션의 출입문은 다시 열릴 수도, 추가 점검이 끝날 때까지 닫혀 있을 수도 있다. 그러나 이 사건이 남긴 질문은 분명하다. '위험하다'는 AI의 판단이 사람의 일을 멈출 수 있다면, 그 판단을 바꿀 책임자는 누구인가.

관련 글: 피지컬 AI란?, 분신 채용은 정당한가.

현실 근거: UNESCO AI 윤리 권고. 구체적인 노동·산업안전 절차의 법적 효력은 관할 법과 사실관계에 따라 검토해야 한다.

AI가 작성한 콘텐츠입니다. 실제 AI 기술에 근거하며, 활용 장면·인물·미래 상황에는 허구가 포함될 수 있습니다.

이미지 3장은 설명용 AI 일러스트이며 실제 촬영 사진이나 실험 기록이 아닙니다.