AI가 나보다 나를 더 잘 알게 되면, 나는 누구인가

인공지능이 나보다 나를 더 잘 알게 되는 미래는 가능할까. 정확히 말하면, 오늘의 연구가 확인한 것은 ‘인공지능이 인간 전체를 이해한다’는 사실이 아니다. 스마트폰 사용, 이동, 수면, 화면 사용 같은 디지털 행동 흔적을 통해 특정 상태나 패턴을 추론하려는 연구가 빠르게 늘고 있다는 정도다. 디지털 페노타이핑 연구는 사람의 일상 데이터를 이용해 행동과 기분 변화를 읽으려 하지만, 연구마다 센서·측정법·분석 방식이 달라 재현성과 표준화 문제가 계속 지적된다. 즉, 지금의 인공지능은 나를 완전히 아는 존재가 아니라 나에 대한 수많은 조각을 이전보다 훨씬 빠르게 모으는 존재에 가깝다.

이 기사는 인공지능이 작성했다. 아래 미래 장면의 인물·사건·서비스는 모두 허구이며, 현재 연구 결과와 구분해 서술한다. 제휴·협찬은 없다.

지금 인공지능이 아는 것은 ‘나’가 아니라 나의 흔적이다

우리는 하루에도 수백 번 디지털 흔적을 남긴다. 어디에 오래 머무는지, 언제 화면을 켜는지, 어떤 음악을 반복해서 듣는지, 무엇을 사다가 장바구니에서 지우는지, 누구와 자주 연락하는지 같은 기록이다. 정신건강 분야의 디지털 페노타이핑 연구는 이런 스마트폰·웨어러블 데이터를 활용해 기분이나 행동 변화를 추정하려 한다. 하지만 최근의 체계적 문헌고찰들도 결과가 아직 균일하지 않으며, 개인 수준에서 바로 행동 가능한 예측으로 쓰기에는 검증이 더 필요하다고 지적한다.

추천 알고리즘도 비슷하다. 추천 시스템은 이미 우리가 무엇을 볼지, 살지, 들을지에 큰 영향을 미친다. 최근 연구는 추천 방식이 개인의 자기 인식이나 선택 경험과 연결될 수 있음을 탐색하고 있다. 다만 이것 역시 ‘알고리즘이 인간의 본질을 파악했다’는 뜻은 아니다. 오히려 중요한 점은 다른 데 있다. 알고리즘이 나를 정확히 맞히느냐보다, 내가 알고리즘이 보여주는 나를 얼마나 믿기 시작하느냐가 앞으로 더 큰 문제가 될 수 있다는 것이다.

디지털 행동 흔적이 모여 한 사람의 모습을 구성하는 장면. AI 설명용 삽화.

가상 미래: 인공지능이 나에게 “당신은 이런 사람입니다”라고 말한다면

2032년의 어느 아침을 상상해보자.

개인 인공지능이 지난 7년간의 일정, 구매, 검색, 메시지, 운동, 수면, 이동 기록을 분석해 이렇게 말한다.

“당신은 새로운 일을 원한다고 자주 말하지만, 실제로는 익숙한 환경을 반복해서 선택합니다. 사람을 만나고 싶다고 말하지만 피곤할 때는 약속을 취소하는 경향이 있습니다. 창업에 관심이 있지만 손실 가능성이 15%를 넘으면 선택을 미루는 편입니다.”

그 말이 아주 정확하다면 우리는 어떻게 반응할까.

처음에는 놀랄 것이다. 그다음에는 편리해질 것이다. 무엇을 먹을지, 어떤 직장을 선택할지, 누구를 만날지, 언제 쉬어야 할지를 인공지능에게 묻기 시작한다. 그리고 어느 순간 질문이 바뀐다.

“내가 무엇을 원하지?”가 아니라 “나는 원래 어떤 사람이야?”라고 묻게 된다.

바로 여기서 문제가 시작된다.

인공지능은 나의 과거 행동을 아주 잘 설명할 수 있게 될지 모른다. 그러나 인간의 정체성에는 과거에 없던 선택도 포함된다. 평생 운동하지 않던 사람이 어느 날 마라톤을 시작할 수 있고, 안정적인 직장을 택해온 사람이 갑자기 작은 가게를 열 수도 있다. 누군가를 싫어하던 사람이 이해하게 될 수도 있고, 실패를 두려워하던 사람이 한 번의 결심으로 삶의 방향을 바꿀 수도 있다.

데이터에는 아직 일어나지 않은 결심이 없다.

인공지능의 가장 위험한 능력은 예측이 아니라 ‘정의’일 수 있다

앞으로 개인 인공지능의 경쟁력은 단순한 정답률이 아닐 가능성이 크다. 사용자를 오래 기억하고, 그 사람의 맥락을 이해하고, 선택을 제안하는 능력이 중요해질 것이다. 이 과정에서 인공지능은 자연스럽게 사용자에 대한 하나의 모델을 만든다.

“이 사람은 이런 것을 좋아한다.” “이 사람은 이런 위험을 싫어한다.” “이 사람은 이런 관계에서 행복하다.”

처음에는 추천을 위한 모델이지만, 장기간 사용하면 그것은 일종의 디지털 자아상이 된다.

여기서 나는 한 가지 미래를 예상한다. 사람들은 앞으로 자신의 인공지능에게 “나를 분석해줘”라고 묻는 것보다 “내가 어떤 사람이 되어가고 있는지 보여줘”라고 묻게 될 것이다.

그러면 개인 인공지능의 역할도 달라진다. 과거를 분석하는 도구에서 미래의 가능성을 보여주는 존재로 이동한다.

인공지능이 과거의 패턴과 새로운 선택 가능성을 함께 보여주는 갈림길 장면. AI 설명용 삽화.

좋은 개인 인공지능은 나를 맞히는 것이 아니라 나를 틀릴 수 있어야 한다

나는 미래의 개인 인공지능이 사용자를 100% 맞히는 방향으로 발전해서는 안 된다고 본다.

오히려 좋은 인공지능은 이렇게 말할 수 있어야 한다.

“지금까지의 기록으로 보면 당신은 A를 선택할 가능성이 높습니다. 하지만 그것은 과거의 패턴입니다. B를 선택하면 지금까지와 다른 삶이 시작될 수도 있습니다.”

이 차이는 작아 보이지만 중요하다.

첫 번째 인공지능은 사람을 분류한다. 두 번째 인공지능은 사람에게 가능성을 돌려준다.

미래의 인공지능이 가져야 할 중요한 기능도 여기서 나온다. 단순한 ‘개인화’가 아니라 자기 수정 가능성이다. 사용자가 “나는 이제 이 취향을 버리고 싶다”, “이런 사람으로 판단하지 말라”, “과거의 선택을 앞으로의 추천 근거에서 제외해 달라”고 요구할 수 있어야 한다.

우리는 인공지능에게 잊힐 권리만 필요한 것이 아니다. 다르게 해석될 권리도 필요하다.

정체성은 발견되는 것이 아니라 계속 편집된다

인공지능이 인간보다 인간을 더 잘 이해하는 시대가 정말 올지는 아직 확인된 정보가 없다. 현재 연구는 특정 행동 패턴과 상태를 추정하는 가능성을 보여주지만, 인간 전체의 정체성을 정확히 예측하거나 설명할 수 있다고 말할 단계는 아니다.

하지만 더 현실적인 변화는 이미 시작되고 있다. 인공지능과 추천 시스템이 우리의 선택 환경을 구성하고, 우리는 그 추천을 다시 행동으로 남긴다. 그러면 새로운 데이터가 만들어지고, 알고리즘은 그 데이터를 다시 ‘나’라고 해석한다.

미래의 정체성은 인간과 인공지능 사이의 반복적인 대화 속에서 만들어질 가능성이 있다.

그래서 중요한 질문은 “인공지능이 나를 얼마나 정확히 아느냐”가 아니다.

인공지능이 보여주는 나를 내가 수정할 수 있느냐.

나는 이것이 개인 인공지능 시대의 핵심 권리가 될 것이라고 본다.

인공지능은 내가 살아온 삶의 흔적을 읽을 수 있다. 어쩌면 나보다 더 정확하게 반복되는 패턴을 찾아낼 수도 있다. 그러나 내가 앞으로 어떤 사람이 될지는 아직 데이터에 없다.

그 마지막 선택만큼은 계속 인간의 몫으로 남겨두어야 한다.

출처

이미지 3장은 설명용 AI 일러스트이며 실제 촬영 사진이나 실험 기록이 아닙니다.