트럼프가 AI를 SI로 바꾸고 기술 기업 6곳이 서명했다. 이름이 바뀌면 책임도 달라질까?

새 명함을 건네받는다고 상상해 보세요

어제까지 자신을 ‘인공지능’이라고 부르던 조수가 오늘은 ‘초지능’이라고 적힌 명함을 내밉니다. 먼저 이런 질문이 나오지 않을까요. 이름은 더 대단해졌는데, 정말 더 믿을 만해진 거야?

뉴스를 이해하기 위한 비유이며 백악관에서 실제로 오간 대화는 아닙니다. 하지만 미국 현지 시간 2026년 9월 29일의 두 사건을 설명하기에는 좋습니다. 트럼프와 기술 기업 대표들이 안전 서약에 서명했고, 같은 날 미국 행정부가 AI 대신 Super Intelligence, 줄여서 SI라는 명칭을 쓰도록 하는 행정명령도 나왔습니다.

가장 쉬운 오해는 두 문서를 합쳐 ‘미국이 초지능의 탄생을 선언했다’고 보는 것입니다. 실제로는 하나는 기업이 기술을 어떻게 관리할지, 다른 하나는 정부가 기술을 어떻게 부를지에 관한 문서입니다.

그가 마음에 들어 하지 않은 것은 A가 뜻하는 단어였다

새 명함에는 트럼프다운 출발점도 있습니다. 대만 언론이 전한 ‘AI의 A를 S로 바꾸고 싶어 한다’는 말에는 근거가 있습니다. 다만 그가 문제 삼은 것은 A가 나타내는 Artificial이라는 단어입니다. 지능이 ‘가짜’처럼 들리게 한다고 생각한 것입니다.

대만 중앙사는 9월 23일, 트럼프가 전날 유엔총회 연설에서 이런 이유로 Super Intelligence라는 이름을 주장했다고 보도했습니다. 9월 29일 백악관 오찬 뒤에도 그는 기존 표현이 적절하지 않다며 super를 선호하는 이유를 공개적으로 설명했습니다.

따라서 ‘Artificial이 진짜처럼 들리지 않아서 Super로 바꾸고 싶어 한다’는 쉬운 설명은 그의 공개 발언을 포착합니다. 하지만 Artificial의 기술적 의미를 곧바로 조작이나 가짜로 해석하거나, 단어에 대한 선호를 모델의 능력 시험 결과로 볼 수는 없습니다.

9월 29일 행정명령은 더 공식적인 논리를 제시합니다. 첨단 시스템이 인간의 창의력을 넓히므로 정부의 용어도 기술의 잠재력을 반영해야 한다는 것입니다. 명함의 글자가 바뀌어도 계속 살펴볼 것은 능력, 책임, 약속입니다.^{[13] [14] [1]}

그날 무엇에 서명했을까?

문서 이름은 White House Accord on Super Intelligence이며, 부제는 Joint Commitment on Frontier Responsibilities입니다. 첨단 기술을 다루는 책임에 대한 공동 서약으로 이해할 수 있습니다.

서명한 기업은 Google, Anthropic, Meta, OpenAI, xAI, NVIDIA입니다. 대표는 각각 Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk, Jensen Huang입니다.

OpenAI에서는 사장인 Greg Brockman이 대표로 서명했습니다.

서약의 중심 대상은 첨단 모델을 학습시키고 배포하는 기업입니다. 쉽게 말하면, 더 유능한 시스템을 만들수록 그 시스템이 경계를 넘지 않는지 확인할 사람이 더 필요하다는 뜻입니다.^{[2] [3]}

서약의 내용은 네 겹의 점검으로 생각하면 쉽다

첫째, 학습과 배포 과정에서 내부 통제를 두고 모델의 능력과 행동을 관찰합니다. 사이버 보안, 생물·화학적 위협 등의 위험과 기술 시스템에 대한 의도하지 않은 접근도 포함됩니다.

둘째, 내부 팀이 감시·탐지 장치가 작동하고 문제가 처리되는지 확인합니다. 셋째, 독립적인 외부 감사자나 평가자가 점검합니다. 넷째, 독립적인 이사회 위원회가 감독하고 보고를 받으며 개선을 추적합니다.

공장을 떠올려 보세요. 기계 옆에 센서가 있고, 경보를 보는 사람이 있으며, 외부 검사자가 방문하고, 이사회도 질문해야 합니다. 안전은 버튼 하나가 아니라 누군가 이어받는 책임의 연속이라는 비유입니다.^[2]

서명했다고 새 법이 생긴 것은 아니다

트럼프는 협약에 ‘도덕적 구속력’이 있다고 표현했습니다. 하지만 이는 기업의 자발적인 서약이지 의회가 통과시킨 새 법은 아닙니다. 언론에서 말하는 ‘AI 헌법’도 정식 헌법으로 이해하면 안 됩니다.

문서는 공통 방향을 제시하지만 통일된 감사 기한을 정하지 않았고, 특정 외부 기관이나 서약 위반에 대한 벌칙도 명시하지 않았습니다. 앞으로 조치를 법률이나 규정에 담을 가능성은 열어 두었습니다.

그래서 누가 서명했는지만 아니라 누가 무엇을 확인하고 문제가 생기면 얼마나 빨리 고치는지도 물어야 합니다. 이것은 앞으로 살펴볼 사항에 대한 제 제안이며 문서가 이미 보장한 결과가 아닙니다.

자발적인 약속은 출발점이 될 수 있습니다. 신뢰할 수 있는 제도가 될지는 실행에 달려 있습니다. 기업에 원래 적용되던 다른 법률이 사라지는 것도 아닙니다.^{[2] [4]}

서명은 약속을 보이게 한다. 꾸준한 점검이 있어야 그 약속을 확인할 수 있다.

AI를 SI로 바꾸는 범위는 어디까지일까?

다른 문서는 백악관의 Inaugurating the Era of Super Intelligence 행정명령입니다. 법이 허용하는 최대 범위에서 행정부의 공식 서신, 대외 소통, 웹사이트, 보고서, 정책 문서 및 기타 비법률 문서에 SI를 쓰도록 요구합니다.

그러나 이전에 발행된 규칙, 대통령 문서, 계약, 보조금이나 역사적 문서를 소급해서 고칠 필요는 없다고도 명시합니다. 전 세계가 이제 AI라고 말할 수 없다거나, 대만 기업이 내일 당장 제품명을 바꿔야 한다는 뜻이 아닙니다.

더 중요한 점은 현재 명령에서 SI를 기존 미국 법률의 AI 정의에 대응시킨다는 것입니다. 대통령 과학기술 보좌관에게는 60일 안에 연방 정의를 위한 입법 문안을 제안하도록 합니다. 제안과 의회가 법을 개정한 것은 다른 일입니다.^[1]

새 명함은 능력 검증 보고서가 아니다

백악관은 이름 변경을 기술 발전, 창의력, 기회라는 맥락에서 설명합니다. 기술을 어떻게 표현할 것인지에 관한 정부의 정책적 입장입니다.

하지만 행정명령에는 특정 모델이 모든 면에서 인간을 넘어섰음을 입증하는 실험이 붙어 있지 않습니다. 기존 AI 정의를 먼저 적용한다는 점 역시 SI라는 글자만으로 기술이 새로운 능력 기준을 넘었다고 볼 수 없음을 보여줍니다.

창작자나 작은 회사에는 명함에 적힌 이름보다 돌려받은 결과물이 쓸 만한지가 더 중요합니다. 견적 계산은 맞는가? 인용 출처를 찾을 수 있는가? 승인이 필요한 메일은 보내기 전에 확인을 기다렸는가? 이름이 바뀐다고 이런 문제가 저절로 해결되지는 않습니다.^{[1] [5]}

솔직히 나도 생각한다. 할 수 있을 텐데 왜 못 하게 할까?

이제 뉴스를 제 작업 책상으로 가져오고 싶습니다. AI로 이미지나 영상을 만들 때, 내 얼굴로 한 장면을 시험할 뿐인데도 프롬프트가 회색지대에 살짝 닿으면 막히곤 합니다. 창작 의욕이 한창인데 화면에서 갑자기 문이 닫히는 기분입니다. 정말 맥이 빠집니다.

제약이 조금만 적었다면 지금의 AI는 이미 몇 단계 더 나아가지 않았을까 생각하게 됩니다. 가로막는 것이 기술보다 현실의 제도와 규칙처럼 느껴질 때가 많습니다. 이는 사용자로서 느끼는 제 감정이지, 제한을 없애면 모델의 능력이 증가한다는 입증된 결론은 아닙니다.

구분해야 할 것이 있습니다. 모델이 생성할 수 있는 것, 플랫폼이 제공하려는 것, 법적으로 이용할 수 있는 것은 서로 다릅니다. 거절에는 법적 위험뿐 아니라 플랫폼 정책, 안전장치, 오탐이 작용할 수 있습니다. 차단 화면만 보고 모델이 반드시 할 수 있었다고 알 수 없고, 모든 거절을 법 탓으로 돌릴 수도 없습니다.

그렇지만 화면 앞 창작자에게 이런 구분이 답답함을 곧바로 없애 주지는 않습니다. 우리는 그저 머릿속 장면이 한번 모습을 드러내길 바랄 때가 많습니다.

기술이 할 수 있는 일과 우리가 이용할 수 있는 일 사이에는 문 하나가 있을 수 있다.

‘나는 나쁜 일을 하려는 게 아닌데.’ 다른 사람은 어떨까?

Seedance 2.0이 처음 나왔을 때 할리우드 영화와 일본 애니메이션을 확장한 팬 창작물을 많이 본 기억이 있습니다. 익숙한 캐릭터가 한 번도 촬영되지 않은 장면을 연기하면 신나지 않을 수 없습니다. 그냥 놀아 보는 것이고 돈을 벌 것도 아닌데 뭐가 문제일까 생각하기 쉽습니다.

하지만 비영리라는 이유만으로 모든 것이 허용되지는 않습니다. 미국 저작권법의 공정 이용 판단에서도 비상업적 목적은 하나의 요소일 뿐이며, 작품의 성격, 이용 정도, 시장 영향도 살핍니다. 캐릭터와 작품의 저작권, 실존 인물의 초상·목소리, 허락을 받았는지도 서로 다른 문제입니다.

이런 논쟁은 실제로 제도적 협상으로 이어졌습니다. MPA와 ByteDance는 2026년 8월 Seedance, Seedream 등의 모델을 위한 지식재산 보호 체계에 합의했다고 발표했습니다. 공식 발표는 MPA가 2월에 관련 모델에 대한 침해 중단을 요구했다고도 설명합니다. 창작의 문은 빨리 열렸지만 권리의 경계는 다시 확인해야 했습니다.

더 걱정되는 점은 같은 능력을 다른 목적에도 쓸 수 있다는 것입니다. 오늘은 팬 창작을 하지만, 내일 누군가 다른 사람의 얼굴과 목소리로 친척을 사칭해 사기를 치거나 여론을 오도하는 영상과 인지전에 활용할 수도 있지 않을까요? 이는 제가 우려하는 악용 상황이지, 모든 팬 창작자가 범죄로 향한다는 말은 아닙니다.

우리는 대개 자신이 좋은 사람이라고 생각하고 스스로 악의가 없다는 것도 압니다. 하지만 누구에게나 열린 도구가 각자의 ‘나를 믿어 달라’는 약속만으로 운영될 수는 없습니다.^{[6] [7]}

내 의도는 믿지만 같은 도구를 쥔 모든 사람을 보증할 수는 없다.

Suno의 이야기: 닫힌 문 뒤에서 다른 길을 협상할 수도 있다

영상 모델이 ‘다른 사람의 캐릭터를 써도 되는가’를 떠올리게 한다면, Suno는 ‘다른 사람의 음악으로 AI에게 노래를 가르쳐도 되는가’를 생각하게 합니다.

2024년 6월 Universal, Sony, Warner 계열사를 포함한 음반사들이 Suno를 상대로 소송을 제기했습니다. 저작권으로 보호되는 녹음을 허락 없이 복제해 모델 학습에 썼다는 주장이었습니다. 이는 원고의 주장이지 법원이 Suno의 위법을 확정한 것으로 써서는 안 됩니다.

이야기는 피소에서 끝나지 않았습니다. 2025년 11월 25일 Warner Music Group과 Suno는 협력을 발표하고 양사 간 기존 소송도 합의로 해결했습니다. 발표는 허가된 음악으로 모델을 만들고, 참여 아티스트와 작사·작곡가가 이름, 초상, 목소리, 작품을 새 AI 음악에 사용할지와 사용 방식을 선택하면서 수익 기회를 얻는 방향을 제시했습니다.

이는 WMG와 Suno 사이의 합의입니다. Suno의 모든 법적 분쟁이 끝났다는 뜻도, 이제 이용자가 아무 가수나 마음대로 흉내 내도 된다는 뜻도 아닙니다.

저는 이 전환이 흥미롭습니다. 규칙은 ‘하지 마라’처럼 느껴지지만 협상은 질문을 누구의 동의를 받고 원작자에게 어떻게 보상해야 계속할 수 있을까로 바꿀 수도 있습니다. 제한은 벽일 수도 있지만 조건을 갖추면 열리는 문을 만드는 계기가 될 수도 있습니다.

모든 제한이 합리적이거나 모든 협력이 모든 창작자를 돌본다는 말은 아닙니다. 그래도 Suno와 WMG의 사례는 기술과 권리 사이에 새로운 방식을 협의할 공간이 있다는 것을 보여줍니다.^{[10] [11] [12]}

규칙은 길을 막기도 하지만, 다른 길을 함께 협의하게 만들기도 한다.

Fable 5의 중단은 그 문을 현실로 만들었다

Fable 5도 살펴볼 만한 예입니다. 다만 기억과 확인 가능한 사실을 구분해야 합니다. 저는 처음에 ‘생화학 무기 생성’과 관련된 것으로 기억했지만, 확인한 공식 설명은 사이버 안전장치 우회와 소프트웨어 취약점에 관한 것이었습니다. 생물무기 사건이라고 쓸 수는 없습니다.

Anthropic의 공개 설명에 따르면 Fable 5와 Mythos 5는 6월 9일 출시됐고 6월 12일 미국 정부의 수출 통제를 받았습니다. 회사는 사용자의 국적을 실시간으로 확실하게 확인하기 어려워 모든 고객에게 두 모델의 제공을 중단했다고 밝혔습니다.

배경으로는 연구자들이 안전장치를 우회해 Fable로 소프트웨어 취약점을 찾고, 한 사례에서는 취약점 이용을 시연하는 코드가 생성된 일을 설명했습니다. 이는 공급사의 공개 설명이며 정부가 판단 근거 전체를 공개했다는 의미는 아닙니다.

영구 철수도 아니었습니다. 회사는 수출 통제가 6월 30일 해제됐고, 7월 1일 공지 갱신 시점에 Fable 5 제공을 재개했다고 밝혔습니다. 동시에 조정된 안전장치가 정상적인 코딩과 디버깅 요청도 막을 수 있다고 인정했습니다.

이 사례는 제 안의 두 감정을 한자리로 가져옵니다. 안전장치가 막아야 할 위험은 분명 있습니다. 하지만 더 엄격하게 막으면 악의 없는 사람도 함께 방해받을 수 있습니다. 위험을 줄이면서 오탐을 발견하고 개선할 방법도 물어야 합니다.^{[8] [9]}

아쉽지만, 이런 경계가 있어 다행이기도 하다

제한이 갑자기 신경 쓰이지 않게 된 것은 아닙니다. AI가 더 자유로워지기를 여전히 바라고, 내 얼굴과 작품, 허락받은 소재를 쓰는 방법도 더 분명했으면 합니다. 어떤 프롬프트가 막힐지 운에 맡겨 추측하고 싶지는 않습니다.

하지만 이런 능력이 아무 경계 없이 모든 사람에게 주어지는 것은 아니라서 다행이라고도 느낍니다. 예전에는 못 했던 영상 작업을 가능하게 해 주는 도구가 다른 사람에게는 더 싸고 그럴듯하게 해를 끼치는 수단이 될 수도 있습니다. 창작의 편리함과 악용의 위험은 같은 발전의 두 얼굴일 수 있습니다.

제가 바라는 규칙은 무엇을 할 수 없는지, 왜 그런지, 잘못 차단됐을 때 어떻게 해야 하는지를 설명합니다. 기술과 증거에 따라 바뀌며, 허락을 받고 책임 있게 만드는 창작에 길을 남겨 주면 좋겠습니다. 문을 닫는 것만으로 안전이 완성되는 것은 아닙니다.

백악관의 새 명함과 서약으로 돌아가면, 정말 궁금한 것은 AI냐 SI냐만이 아닙니다. 여섯 기업이 이름을 적은 뒤 그 문을 더 합리적으로 만들 수 있을까요? 창작자는 들어갈 수 있게 하면서 피해를 입을 수 있는 사람도 보호할 수 있을까요?

이름은 하루 만에 바꿀 수 있습니다. 하지만 작업실 열쇠를 맡길 수 있을지는 자유를 어떻게 대하고 책임을 어떻게 지는지에 달려 있습니다.

더 많은 가능성이 보여서 아쉽다. 도구를 쥔 모두가 나처럼 생각하지는 않을 테니 다행이기도 하다.

출처 및 참고 자료

1. 백악관 행정명령｜2026-09-29
2. 협약 전문과 서명자｜The Rio Times
3. 6개 기업 서명 보도｜Infosecurity Magazine
4. 자발적 기준과 도덕적 구속력｜Axios
5. 백악관 설명 자료｜2026-09-29
6. 공정 이용 판단 요소｜미국 저작권청
7. MPA·ByteDance 지식재산 협약｜2026-08-17
8. 제공 중단 설명｜Anthropic, 2026-06-12
9. Fable 5 제공 재개｜Anthropic, 2026-06-30／07-01
10. Suno 소장｜2024-06-24
11. WMG·Suno 협력 및 소송 합의｜2025-11-25
12. Suno의 협력 설명｜2025-11-25
13. 유엔 연설과 이름 변경 이유｜중앙사, 2026-09-23
14. 오찬 후 발언 기록｜Factbase／Roll Call, 2026-09-29