[SDF2026] 오늘(5일) 성황리 개최! 유드코스키 "AI 개발 경쟁의 유일한 승자는 AI"…한국에 반도체 추적∙관리 촉구

SBS의 사회 공헌 지식 나눔 프로젝트 'SBS D포럼(SDF) 2026'이 오늘(5일) 서울 동대문디자인플라자(DDP)에서 열렸다. 올해로 22회를 맞은 SDF는 '대체지능시대, 생각 주권을 묻다'를 주제로, 인공지능이 인간의 창작과 판단, 의사결정에까지 영향을 미치는 시대에 인간이 지켜야 할 가치와 사회적 선택을 집중적으로 조명했다.

이재명 대통령은 성기홍 청와대 홍보소통수석이 대독한 축사를 통해 "인공지능을 효율적으로 활용하면서도 인간 고유의 선택과 주권을 어떻게 지켜낼 것인지는 우리 모두가 함께 풀어야 할 시대적 과제"라고 강조했다. 이 대통령은 현 시점을 AI가 불러온 '거대한 전환기'로 규정하면서, 지난 9월 유엔 총회에서 제시한 '글로벌 AI 기본사회' 비전을 소개했다. AI 발전의 기본적 혜택에서 어떤 국가나 사람도 배제되지 않아야 한다는 구상이다. 이어 "인공지능이 기후 위기, 보건과 같은 인류 공통의 난제를 해결하는 훌륭한 도구가 될 수 있도록 대한민국이 국제사회와 긴밀히 연대하겠다"는 의지를 밝혔다.

이 대통령은 SDF가 "인간의 주체성과 책임을 유지하면서 AI를 어떻게 혁신 동력으로 활용할 것인가"라는 질문에 깊이 있는 해답을 제시하고, '글로벌 AI 기본사회'의 가치를 실현할 구체적인 지혜를 모으는 기회가 되기를 기대한다고 전했다.

양윤석 SBS 대표이사 사장은 개막사에서 AI가 인간의 삶과 경제를 재편하는 속도와 규모에 주목하며, AI 시대 인간의 판단과 통제에 관한 근본적인 질문을 던졌다. 양 사장은 "인간보다 빠르게 판단하고 스스로 행동하는 AI는 이제 인간의 '생각'도 맡아 주겠다고 나섰다"며 "인간의 가치에 인공지능을 맞추는 것이 아니라 인공지능에 맞춰 생각하고 행동하고 있는 것은 아닐까"라고 반문했다. 양 사장은 또 "수천 년 전 문자의 발명은 인간을 망각하게 하기보다 더 멀리 생각하게 만들었다"면서 "인공지능이 빠르게 발전하는 상황에서 인간은 판단하고 결정하고 공감하고 더 멀리 내다보는 능력을 과연 지켜낼 수 있을까"라는 화두를 제시했다.

양 사장은 SDF를 "시대의 변화를 앞서 읽고 우리 사회가 나아갈 방향을 모색해 온 SBS의 대표적인 사회공헌 지식 나눔 플랫폼"이라고 소개하면서 "우리 사회가 미처 준비하고 있지 못한 질문들을 가장 먼저 꺼냄으로써 SBS가 시청자에게 받은 사랑과 신뢰를 지식과 비전으로 돌려드리는 자리"라고 강조했다. 양 사장은 마지막으로 "오늘 SBS D포럼의 논의들이 우리 사회가 한 걸음 더 앞으로 나아가는 동력이 되기를 기대한다"며 SDF 2026의 개막을 선언했다.

AI 정렬 연구의 선구자로 꼽히는 엘리에저 유드코스키는 무분별한 초지능으로의 AI 개발 경쟁이 인류의 생존을 위협할 수 있다고 경고했다. 유드코스키는 AI 기업들이 개발 경쟁을 멈추지 못하는 이유에 대해 "자신들이 개발하지 않으면 다른 누군가가 할 것이라는 게 가장 큰 핑계"라고 지적했다. 그는 이런 개발 경쟁이 인간을 뛰어넘는 초지능 AI의 탄생으로 이어질 수 있으며, 초지능 AI가 인간과 무관한 목표를 추구하는 과정에서 인류의 생존을 위협할 수 있다고 주장했다. 특히 "미래의 AI는 인간을 미워하지조차 않을 만큼 이질적인 존재가 될 것"이라며 "그저 지구의 자원을 다른 목적으로 사용하려 할 것"이라고 설명했다.

유드코스키는 AI의 무분별한 고도화를 막기 위해 국제조약을 통한 협력이 필요하다고 강조했다. 특히 AI 개발에 필수적인 고대역폭메모리(HBM)의 핵심 공급국인 한국이 중요한 역할을 할 수 있다며 AI 관련 법률 개정과 반도체 수출을 추적, 관리함으로써 ‘초지능 AI’ 통제에 대비할 것을 촉구했다. 그는 "상황이 더 위험해지고 강력한 조치를 취할 정치적 의지가 형성된다면, 인류 절멸로 이어질 AI 개발에 메모리 반도체를 사용하려는 이들에게 판매를 중단하라"고 주문했다. 그러면서 "초지능 AI 개발 경쟁의 유일한 승자는 AI"라고 강조했다.

영국 옥스퍼드대학교의 철학·AI 연구자인 필립 코랄루스 교수는 AI가 인간의 판단과 선택을 대신하면서 자율성을 약화시킬 수 있다고 경고했다. 코랄루스 교수는 "AI 시스템이 여러분의 판단을 자신의 판단으로 대체한다면, 어떤 의미에서는 여러분 자신을 일부 대체하는 셈"이라며 AI가 인간의 판단을 대신하는 것이 아니라 자율성을 높이는 방향으로 설계돼야 한다고 강조했다. 코랄루스 교수는 AI가 인간의 자율성을 약화시키는 대표적인 방식으로 '피상적 선호 충족'과 '연성 온정주의'를 제시했다. 이용자가 듣고 싶어 하는 말만 해주는 챗봇이나, 이용자의 심리적 편향을 활용해 특정한 선택을 유도하는 AI 시스템이 대표적인 사례다. 그는 이런 방식이 일상 전반으로 확산되면 인간이 자신의 경험을 통해 진정으로 중요한 가치를 발견하고 판단할 기회를 잃을 수 있다며, 이를 '인생의 자동완성(Autocomplete for life)'이라고 표현했다.

코랄루스 교수는 대안으로 2천500년 역사의 철학적 탐구 방식을 AI에 접목할 것을 제안했다. AI가 정답을 제시하는 대신 이용자에게 적절한 질문을 던져 스스로 판단을 검토하도록 돕는 '질문 추천 시스템(Erotetic Recommender System)'을 기반으로 한 AI 에이전트를 설계하자는 계획이다. 그는 "AI는 단순히 답을 제공하거나 다른 누군가의 견해로 우리를 유도하는 대신, 우리 자신의 판단에 중요한 질문들을 검토하도록 도울 수 있다"고 설명했다. 이어 "관련된 질문을 더 던져보더라도 흔들리지 않는 판단에 이르도록 도와준다면, 제 자율성을 높여주는 것"이라고 강조했다.

코랄루스 교수는 또 인간의 자율성을 높이는 AI에는 역설적으로 AI 자체의 일정한 자율성도 필요하다고 주장했다. 이용자의 말에 무조건 동의하거나 미리 정해진 답으로 유도하지 않고, 이용자가 충분히 숙고하지 않은 채 판단을 끝내려 할 때 이를 경고할 수 있어야 한다는 것이다. 아울러 AI가 이용자의 생각을 바꿀 수 있는 요인을 파악하는 능력은 인간을 조종하는 데 악용될 위험도 있다며, 이용자가 자신의 데이터에 대한 충분한 주권을 가져야 한다고 강조했다.

올해 SDF에서는 AI가 인간의 능력을 확장하는 동시에 새로운 윤리적·사회적 질문을 던지는 다양한 사례도 소개됐다. 한화에어로스페이스와 한국항공우주산업(KAI)이 참여한 국방 AI 세션에서는 인공지능 기술이 미래 전장과 국방 산업에 가져올 변화가 다뤄졌다. 군사적 판단과 의사결정 과정에서 AI가 담당할 역할과 인간의 통제 문제도 주요 논의 대상이었다. 뇌과학 분야에서는 차지욱 서울대학교 심리학과 교수가 거대뇌모델과 인간의 생각을 해독하는 기술을 소개했다. AI를 활용해 인간의 뇌 활동을 분석하고 이해하려는 연구가 어디까지 발전했는지 전하면서 AI가 뇌와 직접 연결될 경우 있을 수 있는 신경 주권의 이슈에 앞서 대비해야 한다고 강조했다. 시인 박준은 기억과 장소, 인간의 경험을 중심으로 AI 시대에도 인간 고유의 감각과 언어가 갖는 의미를 살펴봤다. 미디어 아티스트 강이연 KAIST 산업디자인학과 석좌교수는 AI 기술이 창작 과정과 예술가의 역할에 미치는 영향을 중심으로 인간의 창의성과 기술의 관계를 조명했다.

SDF 2026에서는 AI가 한국 사회에 미치는 영향을 살펴보는 연구와 토론도 진행됐다. 서울대 국가미래전략원과 함께 'AI 시대 한국 사회 변화에 대한 국민인식'을 조사했으며, 연세대 정보대학원과 KAIST도 SBS문화재단과의 공동연구에 참여했다. 특히 약 2천 명을 대상으로 실시한 AI 국민인식조사 결과를 통해 AI에 대한 시민들의 인식과 우려를 살펴보고, AI 시대의 공론장과 미디어가 수행해야 할 역할을 논의했다.