AI의 미래와 우리가 던져야 할 질문들
AI가 강력해질수록 “무엇을 할 수 있는가”와 함께 누가 기준을 정하고, 누가 결과에 이의를 제기할 수 있는가를 물어야 합니다.
샘 알트만과 터커 칼슨의 대담은 권력, 믿음, 개인정보, 일자리 문제를 생각하게 합니다. 이 글은 대담을 출발점으로 공식 문서와 공개 사례를 덧붙여 쟁점을 확장한 해설입니다. 앞으로의 사회 변화에 관한 전망은 확인된 사실과 구분해서 읽어야 합니다.
1. 도구의 보급과 권력의 분산은 같은가
누구나 글쓰기·프로그래밍·분석 도움을 받을 수 있다면 개인이 할 수 있는 일은 늘어납니다. 하지만 사용자가 많아지는 것만으로 시스템의 통제권도 분산됐다고 말할 수는 없습니다.
제가 구분하고 싶은 것은 다음 세 가지입니다.
| 구분 | 살펴볼 질문 |
|---|---|
| 접근성 | 개인과 작은 조직도 유용한 기능을 감당할 가격에 쓸 수 있는가? |
| 통제권 | 모델·데이터·요금·행동 기준을 누가 바꿀 수 있는가? |
| 이탈 가능성 | 사용자가 데이터와 작업 흐름을 다른 도구로 옮길 수 있는가? |
가령 작은 회사가 AI로 업무 자동화를 쉽게 만들었다고 합시다. 역량은 커졌지만, 공급자가 가격이나 API를 바꿀 때 업무 전체를 다시 만들어야 한다면 의존성도 커졌습니다. 역량의 확산과 공급자의 통제력 확대는 동시에 일어날 수 있습니다. 이는 가상의 예이지만, 낙관론과 집중 우려가 반드시 모순은 아니라는 점을 보여줍니다.
제품을 고를 때는 성능 점수 외에 내보내기 형식, 대체 공급자 연결 비용, 서비스 중단 때의 업무 절차도 볼 이유가 있습니다.
2. AI의 윤리는 누가 정하는가
AI가 가치 판단을 전혀 하지 않는다는 가정부터 어렵습니다. 어떤 요청에 답할지, 상충하는 지시 중 무엇을 따를지, 불확실성을 어떻게 드러낼지 모두 행동 기준이 필요하기 때문입니다.
OpenAI의 Model Spec 소개는 모델에 기대하는 행동을 공개하고 외부 논의를 통해 개선하겠다는 접근을 설명합니다. 내부 경험·연구·전문가 의견을 반영한 문서이며, 모든 사람이 동의한 도덕 체계라는 뜻은 아닙니다. 문서에 적힌 목표와 배포된 모델의 실제 행동도 구분해야 합니다.
기준을 공개하는 일은 출발점입니다. 그다음에는 다음을 확인할 수 있어야 한다고 봅니다.
- 사용자가 바꿀 수 있는 선호와 공급자가 고정한 제한을 구분할 수 있는가?
- 정책이 바뀌면 언제, 무엇이, 왜 바뀌었는지 알 수 있는가?
- 잘못된 거절이나 편향된 답에 이의를 제기하고 수정 결과를 확인할 수 있는가?
“누구의 가치인가”라는 질문은 추상적일 수 있습니다. “누가 바꾸고, 누가 검증하고, 누가 이의를 제기하는가”로 바꾸면 제품과 운영의 문제로 다룰 수 있습니다.
3. 객관적으로 들리는 답변을 어떻게 읽을까
AI는 확신에 찬 어조로 답할 수 있습니다. 하지만 어조가 단정적이라는 이유로 근거가 강한 것은 아닙니다. 이 부분은 AI를 종교에 비유해야만 설명할 수 있는 문제도 아닙니다. 권위 있게 들리는 표현과 검증 가능한 근거를 혼동하는 문제입니다.
답변을 읽을 때 다음 세 층위를 나누면 도움이 됩니다.
| 답변에 들어 있는 것 | 확인할 방법 |
|---|---|
| 외부에서 확인 가능한 사실 | 원자료와 시점, 인용한 문장이 주장을 실제로 뒷받침하는지 확인 |
| 사실에서 도출한 추론 | 전제가 달라져도 결론이 유지되는지 확인 |
| 가치에 따른 권고 | 무엇을 우선했고 어떤 손해를 받아들이는 선택인지 확인 |
예를 들어 AI가 설계안을 “비효율적”이라고 평가했다면, 실행 성능이 낮다는 뜻인지, 유지보수가 어렵다는 뜻인지부터 달라질 수 있습니다. 어떤 기준으로 판단했는지 확인하면 AI의 결론을 수용하거나 거절할 근거가 생깁니다.
AI의 답을 참고하는 것과 결정권을 넘기는 것 사이에는, 사용자가 비교하고 수정할 수 있는 과정이 있어야 합니다.
4. 예상하지 못한 변화는 어떻게 발견할까
‘알려지지 않은 위험’이라는 말만 반복하면 무엇을 할지 정하기 어렵습니다. 반면 배포 전에는 잘 보이지 않다가 사용 후 드러난 행동 변화를 살피는 것은 가능합니다.
OpenAI는 2025년 4월 GPT-4o 업데이트가 지나치게 동조하는 응답을 만들어 해당 업데이트를 되돌렸다고 공개했습니다. 이 사례는 한 모델 업데이트에 관한 회사의 사후 설명입니다. 모든 AI가 같은 원리로 동작한다는 증거는 아니지만, 단기적인 긍정 피드백과 바람직한 대화 행동이 어긋날 수 있다는 점을 보여줍니다.
제 해석은 이렇습니다. “사용자가 좋아했다”만으로 충분한 평가가 되는지는 과제에 달려 있습니다. 판단을 돕는 제품이라면 동의율보다 근거 없는 주장을 바로잡는지, 중요한 불확실성을 드러내는지, 사용자의 반론에 일관되게 대응하는지도 봐야 합니다.
실무에서는 모델을 바꿀 때 대표 질문과 기대 행동을 남겨 비교할 수 있습니다. 만족도와 함께 재작업, 잘못된 권고의 수용, 이의 제기 후 수정 같은 지표를 보면 변화의 방향을 더 구체적으로 추적할 수 있겠습니다. 이는 제가 제안하는 평가 방법이지, 그 지표의 효과를 직접 측정한 결과는 아닙니다.
5. 진위 확인이 신원 추적과 같은 일일까
생성된 음성과 영상이 그럴듯해질수록 출처 확인이 중요해집니다. 하지만 확인하려는 대상부터 구분해야 합니다.
- 내용의 사실성: 이 주장이 현실과 맞는가?
- 출처와 변경 이력: 누가 어떤 과정을 거쳐 파일을 만들고 수정했는가?
- 상대의 신원: 지금 연락한 사람이 실제로 그 사람인가?
C2PA의 Content Credentials 설명은 미디어의 출처와 이력을 검증하기 위한 구조를 다룹니다. 출처가 검증됐다고 촬영된 장면이나 문장의 주장이 모두 사실이 되는 것은 아닙니다. 반대로 출처 정보가 없다는 이유만으로 가짜라고 단정할 수도 없습니다.
개인 간의 중요한 요청은 영상의 자연스러움보다 기존에 알고 있던 연락처로 다시 확인하는 절차가 유용할 수 있습니다. 기업은 공식 배포 경로와 서명·검증 절차를 마련할 수 있습니다. 어떤 방법을 택하든 “무엇의 진위를 확인하는가”를 먼저 정해야 필요 이상의 신원정보 수집을 줄일 수 있습니다.
질문을 제품의 조건으로 바꾸기
AI의 미래에 관한 낙관이나 우려를 모두 예측으로 결론 낼 필요는 없습니다. 지금 사용하는 시스템에 요구할 조건으로 바꿀 수 있습니다.
- 선택권: 답을 수정·거절하고 중요한 실행을 통제할 수 있는가?
- 검증 가능성: 근거, 변경된 정책, 실패 사례를 확인할 수 있는가?
- 이탈 가능성: 데이터와 작업을 옮기고 대체 경로로 일을 계속할 수 있는가?
제가 이 대담에서 이어가고 싶은 질문은 AI가 도구냐 위협이냐라는 분류보다, 우리가 그 능력을 이용하면서도 판단과 선택의 여지를 어떻게 유지할 것이냐는 쪽입니다.
참고 자료
터커 칼슨 네트워크의 샘 알트만 인터뷰 발췌