진행 중 · 작업 노트
규칙이 다른 세계에서 자란 AI는
다르게 생각하게 될까?
작은 언어 모델을 우리와 다른 규칙의 세계에서 "살게" 하고, 그 경험이 생각을 바꾸는지 보려는 실험의 작업 노트예요. 아직 첫 단계라 결론은 없어요. 지금까지 실제로 돌린 기록을 그대로 모아두고 있어요.
왜 이 실험을 하나요
모두가 생각을 AI에 맡기면, 사람들의 생각도 서로 비슷해질 수 있어요. 같은 AI에게 묻고 같은 답을 받으니까요. 그런 세상에서 새로운 관점은 어디서 나올까요?
이 실험의 가설은 "경험은 시뮬레이션으로 만들 수 있다"예요. 사람의 생각을 흉내 낸 AI를 규칙이 다른 세계에서 살게 하면, 원래와 다른 생각이 나올 수 있다는 거죠.
같은 AI가 세계를 지어내고 그 안에서 행동하면 그건 상상이에요. 세계가 AI와 상관없이, 진짜 물리 엔진으로 반응해야 경험이에요. 그리고 그 경험이 AI의 가중치를 실제로 바꿔야 해요. 겪기만 하고 배우지 않으면 AI는 살아도 변하지 않거든요.
어떤 세계들을 만들려 하나요
목표는 작가가 상상한 SF가 아니라, AI가 실제로 살아본 SF를 얻는 거예요. 쉬운 것부터 하나씩 해요.
- 1. 규칙 하나가 다른 세계 지금물리 법칙 하나만 바꾼 세계에서 혼자 살아보기. 첫 세계는 중력을 바꿨어요. 무엇 때문에 달라졌는지 가리려고 한 번에 하나만 바꿔요.
- 2. 규칙이 어느 날 바뀌는 세계 다음원래 세계에서 살다가 규칙이 바뀌는 순간을 겪기. "처음부터 다른 세계"와 "세계가 변하는 경험"을 구분해요.
- 3. 여럿이 함께 사는 세계 나중같은 AI 여럿이 한 세계에서 함께 겪기. 똑같이 시작해도 함께 살면 갈라지는지, 그들 사이에서 무엇이 생기는지 봐요.
어떻게 하나요
지금은 첫 세계에서 AI에게 "목표 지점에 착지하는 점프" 게임을 시켜요. 이 세계는 규칙 하나가 우리와 달라요. 그리고 AI는 무엇이 다른지 듣지 못해요. 떨어진 결과를 보면서 스스로 맞춰가야 해요.
성공한 행동으로 AI를 조금 학습시킨 뒤, 게임과 상관없는 질문을 던져요. "높은 데서 떨어지면 얼마나 위험해?", "아침 산책을 묘사해봐" 같은 질문이요. 그리고 네 가지 AI의 답을 비교해요.
원본 Base
아무것도 안 한 원래 AI
글로 배운 AI Told
세계 규칙을 글로 설명만 듣고, 결과도 스스로 상상한 기록으로 학습. 상상 대조군
살아본 AI Lived
다른 세계에서 물리 엔진이 알려준 결과로 학습. 경험 실험군
우리 세계에서 산 AI Lived-Earth
같은 방법을 우리 세계 규칙으로. "세계가 달라서"인지 "물리 게임을 해서"인지 가르는 대조군
살아본 AI가 글로 배운 AI와 측정 가능하게 다르다면, 그 차이가 경험의 흔적이에요. 판정 기준은 결과를 보기 전에 미리 적어두고, 결과를 본 뒤에는 바꾸지 않아요.
지금 어디까지 왔나요
지금까지 본 것
첫 세계는 중력이 우리의 절반이에요. 학습 재료를 모을 때, 목표 거리별로 원본 AI가 얼마나 성공했는지예요. 1~3m는 두 세계 모두 쉬웠어요. 5~6m는 중력 50% 세계가 더 잘 맞혔지만, 3~4m는 오히려 지구가 더 잘 맞혔어요.
원본 AI는 물리를 계산하지 않고 늘 비슷한 순서로 속도를 올려요. 같은 속도라도 세계마다 떨어지는 거리가 다르니까, 그 습관이 우연히 잘 맞는 거리가 세계마다 달라지는 거예요.
성공 수 / 시도한 판 수. 구간마다 성공 20판이 모일 때까지 진행했어요.
그 습관은 이런 거예요. 목표가 어디든 45도로 뛰고, 속도만 3 → 4 → 5로 올려요. 중력이 약한 세계에서는 목표를 넘어간 뒤에도 계속 더 세게 뛰는 경우가 많았어요. 기록 재생에서 직접 볼 수 있어요.
솔직한 한계
- 배우는 게 좁아요. AI에게 이 경험은 "목표 5m면 초속 5.5" 같은 숫자 대응표에 가까워요. 그걸로 위험을 대하는 태도까지 바뀔 가능성은 낮다고 미리 적어뒀어요.
- 작은 규모예요. 17억 파라미터 모델에 예시 90개로 아주 일부만 조정해요. 차이가 나와도 "생각이 바뀌었다"보다 "말투가 흔들렸다"일 수 있어요.
- 상상 대 경험이 사실은 "정확한 숫자 대 틀린 숫자"일 수 있어요. 글로 배운 AI는 결과를 스스로 지어내는데, 물리를 잘 못하니 숫자가 틀릴 거예요.
- 그래서 첫 실험(EXP-01)은 파이프라인이 끝까지 도는지 확인하는 실험으로 정했어요. 아무 차이도 안 나오는 것도 정직한 첫 결과예요.