이미지: 작자 미상, 《용(龍) 자 문자도》, 약 1800년, 조선시대. Cleveland Museum of Art 소장. CC0 / Public Domain.

AI라는 이름의 드래곤 길들이기(2/2)

AI 시대의 인간다움: 길들이기, 절제, 그리고 비워 두는 것의 의미

Ted Shin  |  관점 에세이 

Ted Shin (한국이름 신진섭)은 미국 Metropolitan State University of Denver(MSU Denver)의 College of Aerospace, Computing, Engineering, and Design 학장이자 산업디자인 교수이다. 산업디자이너이자 교육자로서, 과거 한국 삼성전자에서 제품 디자이너로 근무하며 삼성의 휴대전화를 포함한 다양한 첨단 제품을 디자인했다. 주요 관심 분야는 인간중심디자인, 디자인 교육, 신기술, 그리고 인공지능과 인간 학습의 변화하는 관계이다. 한국의 영남대학교와 미국 University of Illinois Urbana-Champaign에서 디자인 학위를 받았으며, 2001년부터 산업디자인을 여러 대학에서 가르쳐 왔고 현재의 대학에서 학장으로 재직중이다.

드래곤에게 절제를 가르치기

이제 “드래곤을 길들인다”는 말의 의미도 달라진다.

처음 내가 “우리의 AI를 훈련한다”고 생각했을 때는 AI에게 내가 누구인지를 가르치는 데 초점이 있었다.

내가 어떻게 생각하는지 배워라.

내 우선순위를 이해하라.

내 목표를 알아라.

내 강점과 약점을 파악하라.

내가 도전받아야 할 때는 나에게 도전하라.

무조건 내 말에 동의하지 마라.

나는 여전히 이 모든 것이 중요하다고 생각한다.

하지만 이것만으로는 충분하지 않다.

잘 길들인 드래곤은 우리를 대신해 더 많은 일을 하는 법만 배워서는 안 된다. 절제도 배워야 한다.

언젠가는 AI가 서로 다른 종류의 순간을 구분하도록 관계를 길들일 수 있어야 할 것이다.

어떤 때에는 답이 필요하다.

어떤 때에는 협력자가 필요하다.

어떤 때에는 비평가가 필요하다.

어떤 때에는 질문이 필요하다.

어떤 때에는 계속 씨름할 수 있을 만큼의 도움만 필요하지, 씨름 자체를 없애 버릴 만큼의 도움은 필요하지 않다.

어떤 때에는 내가 직접 결정을 내려야 한다.

그리고 어떤 때에는 침묵이 필요하다.

이것은 개인화를 전혀 다르게 정의하게 만든다.

오늘날의 개인화: “나를 잘 알아서 내가 원하는 것을 더 많이 줘라.”

인간 발달을 위한 개인화: “나를 충분히 잘 알아서, 내가 원하는 것을 주는 것이 오히려 나에게 필요하지 않은 순간을 알아차려라.”

이 차이는 매우 중요해질 수 있다.

학생이 정답을 달라고 한다. AI는 먼저 무엇을 시도해 보았는지 묻는다.

리더가 자신의 결정이 옳은지 묻는다. AI는 가장 강력한 반대 논리를 보여 준 다음 멈춘다.

한 사람이 인생에서 무엇을 해야 할지 묻는다. AI는 답을 안다고 가장하기보다 질문을 더 명확하게 만드는 것을 돕는다.

아이디어가 막힌 디자이너가 스무 개의 콘셉트를 요구한다. AI는 때때로 이렇게 말할 수 있다. “먼저 당신이 세 개를 스케치해 보세요. 그다음 함께 봅시다.”

가장 정교한 인공지능은 언제나 무슨 말을 해야 하는지를 아는 시스템이 아닐지도 모른다.

오히려 덜 말하는 것이 더 많은 인간의 생각을 만들어 내는 순간을 아는 지능일지도 모른다.

세 가지 정렬

이 관점에서 보면 우리는 앞으로 정렬을 세 가지 수준에서 생각해야 할지도 모른다.

첫째는 파호츠키와 같은 연구자들이 강조하는 “기계 정렬(machine alignment)”이다. 더 강력해지는 AI가 인간의 목표와 가치에 일관되게 부합하는 방식으로 행동하는가?

둘째는 “개인 정렬(personal alignment)”이다. 나의 AI가 나의 목표, 선호, 경계, 그리고 내가 AI와 맺고 싶은 관계를 이해하는가?

그러나 나는 세 번째 문제가 있다고 생각한다.

인간 발달 정렬(human-development alignment).

이 지능과 지속적으로 상호작용하는 것이 인간의 성장을 돕는가, 아니면 조용히 그것을 약화시키는가?

AI는 앞의 두 시험을 통과하고도 세 번째에서 실패할 수 있다.

안전할 수 있다.

나를 완벽하게 이해할 수 있다.

내가 요구한 것을 정확하게 해 줄 수 있다.

그리고 바로 그 일을 너무 잘하기 때문에, 내가 과거에는 직접 연습해야 했던 능력을 조금씩 약화시킬 수도 있다.

이 가능성은 성공의 기준을 바꾸어 놓는다.

질문은 단지 “AI가 더 유능해졌는가?”가 아니다.

심지어 “AI가 나에게 더 유용해졌는가?”만도 아니다.

더 깊은 질문은 이것이다. “이 관계는 내가 더 온전한 인간이 되는 데 도움이 되었는가?”

물론 여기에는 능력도 포함된다.

하지만 능력이 전부는 아니다.

판단력, 호기심, 창의성, 성찰, 관계, 도덕적 성장, 경이로움, 모호함을 견디는 능력, 생각을 바꿀 수 있는 능력, 그리고 때로는 질문을 즉시 없애지 않고 그 질문과 함께 살아갈 수 있는 의지도 포함된다.

대규모 언어 모델에서 집중 경험 모델로

여기서 나는 개인화에 관한 또 하나의 질문에 도달한다. 오늘날의 대규모 언어 모델(LLM)은 엄청난 양의 언어와 인간의 표현을 학습함으로써, 사람들이 일반적으로 무엇을 말하고 어떻게 연결하는지를 폭넓게 파악한다. 그것은 인류 전체의 언어적 패턴과 지식의 폭을 다루는 데 탁월하다.

그러나 한 사람을 깊이 이해하는 데에는 “더 크게” 만드는 것만으로 충분하지 않을 수 있다.

처음에는 나는 이런 개인적 경험의 층위를 “Large Experience Model”, 즉 LXM이라고 불러 볼 수 있지 않을까 생각했다. 언어 모델이 언어의 관계를 학습한다면, 경험 모델은 사건, 해석, 감정, 기대, 행동 사이의 관계를 학습할 수 있지 않을까 하는 생각이었다.

하지만 곧 “Large”라는 단어 자체가 문제일 수 있다는 생각이 들었다. 경험의 의미는 많은 사람의 평균을 더 많이 모을수록 반드시 더 정확해지는 것이 아니기 때문이다.

예를 들어 주사바늘을 생각해 보자. 많은 사람에게 주사바늘은 통증이나 불안을 연상시킬 수 있다. 그러나 의료인에게는 일상의 도구일 수 있고, 치료를 기다리는 사람에게는 오히려 안도와 회복의 상징일 수 있다. 같은 대상도 사람의 경험과 맥락에 따라 전혀 다른 의미를 가진다.

그래서 나는 LXM보다 “Focused Experience Model”, 줄여서 FXM이라는 표현이 이 생각에 더 가깝다고 느꼈다. 여기서 FXM이라는 명칭은 기존 학계에서 정립된 표준 용어가 아니라, 내가 이 글에서 제안하는 작업 개념이다. 한국어로는 임시로 “집중 경험 모델”이라고 부를 수 있다.

내가 생각하는 FXM은 하나의 거대한 개인 일기나 모든 경험을 빠짐없이 저장하는 데이터베이스가 아니다. 오히려 한 사람의 경험, 기억, 감정, 가치, 연상, 맥락이 시간이 흐르면서 새로운 사건의 의미를 어떻게 바꾸는지를 이해하려는 개인화의 층위에 가깝다.

LLM이 묻는 질문이 “이 말은 일반적으로 무엇을 의미하는가?”라면, FXM이 묻는 질문은 “이 말은 이 사람에게 무엇을 의미하는가?”에 더 가깝다.

LLM은 폭을 제공한다. FXM은 깊이를 추구한다.

LLM은 수많은 인간에게서 일반적인 패턴을 배운다. FXM은 한 인간의 삶에서 그 사람이 일반적인 패턴과 어디에서 다르게 반응하는지, 그리고 왜 그렇게 되었는지를 이해하려고 한다.

이 차이는 내가 오래전부터 생각해 온 “완벽을 넘어선 불완전함”과도 연결된다. 완벽함은 흔히 이상적인 기준으로 수렴하는 것이다. 그러나 장인의 작업에서는 기준을 완전히 이해한 뒤 어디에서 의도적으로 벗어날지 아는 순간, 기술적 완벽함만으로는 얻기 어려운 의미가 생길 수 있다.

AI에서도 비슷한 일이 가능할지 모른다. 일반 모델은 규칙과 평균을 이해한다. 그러나 인간 중심의 개인화는 한 사람이 평균에서 벗어나는 지점을 단순한 오류나 잡음으로 제거해서는 안 된다.

오히려 바로 그 차이가 가장 중요한 정보일 수 있다.

평균은 인간 전체에 대해 많은 것을 말해 준다. 그러나 평균에서 의미 있게 벗어나는 지점은 한 인간에 대해 말해 줄 수 있다.

그림: 마쓰오 바쇼(松尾芭蕉), 「ほろほろと 山吹散るか 滝の音」(1688). 바쇼의 그림과 하이쿠.

번역: 후두둑 후두둑, 황매화 꽃잎이 지는가, 여울물 소리

세계에서 제일 짧은 시인 일본의 전통시 하이쿠를 생각하면 이 차이가 더욱 선명해진다. 같은 짧은 문장을 읽어도 사랑에 빠진 사람, 상실을 겪은 사람, 의사, 디자이너는 서로 다른 것을 느낄 수 있다. 단어는 같지만 그 단어가 지나가는 삶의 역사가 다르기 때문이다.

그렇다면 미래의 개인화 AI가 해야 할 일은 단순히 “이 사용자는 무엇을 좋아하는가?”를 기억하는 것보다 훨씬 어려울 수 있다. 어떤 경험이 의미를 만들었는가? 그 의미는 시간이 지나며 어떻게 변했는가? 과거의 패턴은 아직도 유효한가? 지금의 나는 예전의 나와 어디에서 달라졌는가?

바로 여기에서 FXM은 위험한 개념이기도 하다. 나를 이 정도로 이해하는 시스템은 나를 돕는 데도 강력하지만, 나를 설득하거나 조종하는 데도 강력할 수 있다. 따라서 이런 모델이 현실화된다면 경험 데이터의 소유권, 사생활, 잊힐 권리, 잘못된 추론을 수정할 권리, 그리고 무엇보다 한 사람이 과거의 모습에 고정되지 않을 권리가 중심 설계 원칙이 되어야 한다.

좋은 개인화는 “당신은 원래 이런 사람입니다”라고 말하는 것이 아니라, “당신은 예전과 달라지고 있는 것 같습니다”라고 알아차릴 수 있어야 한다.

그래서 FXM은 드래곤을 더 강력하게 만드는 기술만을 뜻해서는 안 된다. 드래곤이 한 인간의 삶을 더 깊이 이해할수록, 무엇을 기억해야 하는지뿐 아니라 무엇을 단정하지 말아야 하는지, 무엇을 잊어도 되는지, 그리고 무엇은 여전히 그 사람 스스로 해석하도록 남겨 두어야 하는지도 배워야 한다.

그 점에서 FXM의 궁극적인 목적은 인간을 완성해 주는 것이 아닐지도 모른다. 오히려 한 인간이 계속 변화하고 성장할 수 있도록 충분한 미완성을 남겨 두는 데 있을 수 있다.

맹자, 순자, 그리고 빈 캔버스

이렇게 보면 맹자와 순자의 논쟁은 새롭게 읽힌다.

맹자는 발달이 가능성을 발견하고 키우는 일임을 상기시킨다.

순자는 바람직한 결과가 의도적인 수양, 규율, 구조를 필요로 한다는 점을 상기시킨다.

그러나 여백은 세 번째 교훈을 더한다.

길들이기에는 언제 개입하지 않아야 하는지를 아는 능력도 필요하다.

정원사는 식물에 물을 주지만, 물이 많을수록 항상 좋은 것은 아니다.

교사는 학생을 돕지만, 모든 질문에 대신 답해 버리면 학습의 일부를 파괴한다.

부모는 아이를 보호하지만, 모든 위험을 없애 버리면 독립성을 기를 수 없다.

디자이너는 구성에 필요한 것을 더한다. 그리고 멈춘다.

아마 AI를 잘 길들이는 일에도 같은 성숙함이 필요할 것이다.

키우고. 다듬고. 절제하고. 공간을 남겨 둔다.

이것들은 서로 경쟁하는 원칙이 아니다.

함께 있을 때 비로소 “길들이기”가 된다.

우리는 어떤 드래곤을 원하는가?

인간은 기술의 역사 대부분을 한계를 극복하는 데 써 왔다.

우리는 거리를 극복했다. 어둠을 극복했다. 물리적 힘의 한계를 극복했다. 기억과 계산의 한계를 극복했다.

이제 AI는 지적 노동의 한계 자체를 극복하겠다고 약속한다.

그 안에는 엄청난 선이 있다.

파호츠키가 말하듯, 점점 더 강력해지는 AI의 놀라운 가능성을 추구하면서 동시에 그 능력이 커질수록 인간의 주체성을 지켜야 한다는 문제를 우리는 함께 다뤄야 한다.

하지만 인간의 주체성을 지킨다는 것은 단순히 인간이 기술적으로 “통제권”을 유지하는 것 이상을 요구할 수 있다.

인간의 주체성이 자라나는 조건 자체를 지켜야 할지도 모른다.

선택.

성찰.

책임.

불확실성.

침묵.

경이로움.

캔버스의 빈 부분.

앞으로의 기술적 과제는 더 빠르게 답하고, 더 많이 알고, 우리의 필요를 더 완벽하게 예측하는 기계를 만드는 것보다 훨씬 미묘할 수 있다.

모든 인간의 한계가 “최적화로 제거해야 할 결함”은 아니라는 사실을 알아차릴 만큼 정교한 기계를 만드는 일일지도 모른다.

어떤 어려움은 가르친다.

어떤 기다림은 우리를 바꾼다.

어떤 방황은 발견을 낳는다.

어떤 침묵은 이해를 만든다.

어떤 질문은 한동안 답이 없는 채로 남아 있어야 한다.

한국의 전통 화가들은 그리지 않은 공간이 반드시 빠진 공간은 아니라는 사실을 알고 있었다.

그 공간은 구성의 일부다.

아마 인간의 삶도 마찬가지일 것이다.

AI가 단지 불이라면, 우리는 그것을 사용하는 법만 배우면 될지도 모른다.

하지만 AI가 아기 드래곤에 더 가깝다면 - 점점 더 강력해지고, 적응하며, 우리의 결정과 깊이 얽혀 가는 존재라면 - 우리의 책임은 달라진다.

우리는 그것을 길들여야 한다.

언제 도울지 가르쳐야 한다. 언제 도전할지. 언제 보호할지. 언제 거절할지. 언제 기다릴지.

그리고 때로는 우리 곁에 조용히 앉아 하늘을 비워 둘 때가 언제인지도 가르쳐야 한다.

결국 가장 중요한 질문은 드래곤이 얼마나 놀라운 지능을 갖게 되는가가 아닐지도 모른다.

그와 오랜 세월을 함께 살아간 뒤에도 우리가 여전히 스스로 생각하고, 경이로워하고, 선택하고, 창조하고, 삶의 의미를 찾아가는 법을 알고 있는가가 더 중요한 질문일 수 있다.

어쩌면 그것이 우리가 드래곤을 잘 길들였는지를 판단하는 진짜 기준이 될 것이다.

그림 : 카지미르 말레비치(Kazimir Malevich), 《검은 사각형(Black Square)》, 1915, 캔버스에 유채, 79.5 × 79.5 cm. 모스크바 국립 트레티야코프 미술관 소장.

주: 이 글은 관점 에세이다. 맹자와 순자, 여백, 아기 드래곤 등의 비유와 철학적 연결은 현재의 AI 시스템이 인간과 같은 도덕적 본성, 의식, 또는 내면 경험을 가진다는 주장이 아니라, 인간과 AI의 관계를 생각하기 위한 개념적 렌즈로 사용되었다.

번역 주: 이 한국어판은 Ted Shin의 영문 원고 「Raising the Dragon Called AI」을 바탕으로 의미와 논지, 에세이의 리듬을 살려 번역·편집한 것이다. 제목은 한국에서 널리 알려진 표현인 「드래곤 길들이기」를 사용했다.