본문으로 건너뛰기
simmball

← 전체 제품

§1.1

Beta

Koestler AI

내 결정에 반론을 펴고, AI 에이전트의 위험한 행동을 실행 전에 심사한다.

† 역자 주브라우저 언어에 맞춰 한국어로 열었습니다.

영어로 보기이대로 읽기

Koestler AI는 반론을 편다. 마음이 기운 결정을 적으면, 그 논증을 펼쳐 놓고 가장 약한 고리부터 한 번에 하나씩 질문으로 공격한다. 질문에는 답할 수도, 인정할 수도, 답하지 않은 채 기록에 남겨 둘 수도 있다. 끝나면 결정 델타를 받는다. 들고 온 입장과 살아남은 입장, 그리고 무엇이 왜 바뀌었는지다.

같은 코어가 AI 에이전트의 행동도 심사한다. MCP로 연결하면(현재는 Claude Code) 파일 쓰기, 셸 명령, 배포처럼 결과가 큰 행동을 실행 전에 명시적인 규칙표로 판정한다. 각 행동은 통과, 토론, 사람에게 넘김, 차단 가운데 하나로 결정되며, 조용히 승인되는 것은 없다. 심판은 설계상 에이전트와 다른 모델 계열을 쓰고, 모든 판정은 고칠 수 없는 기록으로 남는다. 처음에는 섀도 모드로 시작한다. 아무것도 막지 않고 모든 것을 기록하는 모드다.

이름은 아서 쾨슬러의 이연연상(bisociation)에서 왔다. 서로 무관한 두 사고의 틀이 교차하는 자리에서 창조가 일어난다는 생각이다. 인사이트 엔진은 더글러스 호프스태터와 멜러니 미첼이 만든 유추 모델 Copycat에서 착상을 빌렸다. 막힌 문제를 먼 분야와 교차시켜 얻은 결과는 직접 검증하기 전까지 가설로 표시된다.

Koestler AI는 지금 베타다. 게이트가 사고를 줄인다고는 아직 주장하지 않는다. 그 주장은 실제 에이전트로 하는 대조 실험을 통과한 뒤의 일이다.