저자: 윌리엄 M. 피스터(Bankless)
편집자: Baishui, Golden Finance
이더리움 창시자인 비탈릭 부테린(Vitalik Buterin)은 2014년부터 자율 에이전트와 DAO에 대해 생각하기 시작했습니다. 그 당시에는 전 세계 대부분의 사람들에게 아직 먼 꿈이었습니다.
그의 초기 비전에서 그는 "DAO, DAC, DA 등: 용어에 대한 불완전한 가이드"라는 기사에서 설명했듯이 DAO는 "중앙에는 자동화, 가장자리에는 사람"이 있는 분산형 엔터티였습니다. 효율성과 투명성을 유지하기 위해 인간의 계층 구조가 아닌 코드를 사용합니다.
10년 후 Variant의 Jesse Walden은 Vitalik의 초기 작업 이후 실제로 DAO의 발전을 반영하는 "DAO 2.0"을 출판했습니다.
간단히 말해서, Walden은 DAO의 초기 물결이 종종 자동화를 강조하지 않는 인간 중심의 디지털 조직인 협동조합과 유사하다고 지적했습니다.
그럼에도 불구하고 Walden은 인공 지능, 특히 대규모 언어 모델(LLM) 및 생성 모델의 새로운 발전이 이제 Vitalik이 10년 전에 예견했던 분산형 자율성을 더 잘 활성화할 수 있는 가능성을 갖고 있다고 계속 믿고 있습니다.
그러나 DAO 실험에서 인공지능 에이전트를 점점 더 많이 사용하게 되면서 우리는 여기서 새로운 의미와 문제에 직면하게 될 것입니다. 아래에서는 DAO가 인공 지능을 접근 방식에 통합할 때 해결해야 하는 5가지 주요 영역을 살펴보겠습니다.
거버넌스 혁신
Vitalik의 원래 프레임워크에서 DAO는 거버넌스 규칙을 체인에 인코딩하여 계층적 인간 의사 결정에 대한 의존도를 줄이는 것을 목표로 했습니다.
처음에 인간은 여전히 "위기"에 있었지만 복잡한 판단에는 여전히 중요했습니다. Walden이 설명한 DAO 2.0 세계에서 인간은 여전히 자본과 전략적 방향을 제공하는 주변부에 머물지만 권력의 중심은 점점 더 이상 인간이 아닙니다.
이러한 역학은 많은 DAO의 거버넌스를 재정의할 것입니다. 우리는 여전히 인간 동맹이 결과에 대해 협상하고 투표하는 것을 보게 될 것입니다. 그러나 모든 종류의 운영 결정은 점점 더 AI 모델의 학습 패턴에 따라 결정될 것입니다. 이 균형을 달성하는 방법은 현재 열린 질문이자 설계 공간입니다.
모델 정렬 불량 최소화
DAO의 초기 비전은 투명하고 불변적인 코드를 통해 인간의 편견, 부패 및 비효율성에 대응하는 것을 목표로 했습니다.
이제 중요한 과제는 신뢰할 수 없는 인간의 결정에서 AI 에이전트가 DAO의 목표에 "일치"되도록 보장하는 것입니다. 여기서 주요 취약성은 더 이상 인간의 공모가 아니라 모델 불일치입니다. 즉, 인간이 의도한 결과에서 벗어나는 측정항목이나 행동을 최적화하는 AI 기반 DAO의 위험입니다.
DAO 2.0 패러다임에서는 이러한 일관성 문제(원래 AI 안전계의 철학적 문제)가 경제 및 거버넌스의 실질적인 문제가 됩니다.
이는 오늘날 기본 AI 도구를 실험하는 DAO의 주요 관심사가 아닐 수도 있지만, AI 모델이 더욱 발전하고 분산형 거버넌스 구조에 깊이 통합됨에 따라 이것이 검토 및 개선의 주요 영역이 될 것으로 기대합니다.
새로운 공격 표면
인간 p0pular.eth가 AI 에이전트 Freysa를 속여 "approveTransfer" 기능을 오해하게 하여 $47,000의 이더를 획득한 최근 Freysa 대회를 생각해 보세요.
Freysa에는 상금을 보내지 말라는 명시적인 지침과 같은 안전 장치가 내장되어 있었지만 AI가 돈을 지급할 때까지 프롬프트와 코딩된 논리 간의 상호 작용을 활용하여 결국 인간의 창의성이 모델을 능가했습니다.
이 초기 경쟁 사례는 DAO가 더 복잡한 AI 모델을 통합함에 따라 새로운 공격 표면도 상속하게 될 것임을 강조합니다. Vitalik이 DO 또는 DAO가 인간에 의해 공모되는 것을 걱정했던 것처럼 이제 DAO 2.0은 AI 훈련 데이터에 대한 적대적인 입력이나 적시 엔지니어링 공격을 고려해야 합니다.
LLM의 추론 프로세스를 조작하거나 오해의 소지가 있는 온체인 데이터를 제공하거나 매개변수에 미묘하게 영향을 미치는 것은 새로운 형태의 "거버넌스 탈취"가 될 수 있으며, 여기서 전장은 인간 다수 투표 공격에서 보다 미묘하고 정교한 AI 공격 형태로 전환됩니다.
새로운 중앙집권화 문제
DAO 2.0의 진화는 특정 DAO의 기반이 되는 AI 모델을 생성, 훈련 및 제어하는 사람들에게 상당한 권한을 부여하며, 이는 새로운 형태의 중앙 집중식 병목 지점으로 이어질 수 있습니다.
물론, 고급 AI 모델을 교육하고 유지하려면 전문 지식과 인프라가 필요하므로 미래의 일부 조직에서는 표면적으로는 커뮤니티의 손에 있지만 실제로는 숙련된 전문가의 손에 방향이 달려 있을 것입니다.
이것은 이해할 수 있습니다. 그러나 앞으로는 AI 실험을 위한 DAO가 모델 업데이트, 매개변수 조정, 하드웨어 구성과 같은 문제에 어떻게 대응하는지 추적하는 것이 흥미로울 것입니다.
전략 및 전략적 운영 역할 및 커뮤니티 지원
Walden의 "전략 대 운영" 구분은 장기적인 균형을 제시합니다. AI는 일상적인 DAO 작업을 처리할 수 있는 반면 인간은 전략적 방향을 제시합니다.
그러나 인공지능 모델이 더욱 발전함에 따라 점차적으로 DAO의 전략적 계층을 침범할 수도 있습니다. 시간이 지남에 따라 “주변 사람들”의 역할은 더욱 줄어들 수 있습니다.
이는 다음 질문을 제기합니다. 많은 경우 인간이 자금을 제공하고 옆에서 지켜볼 수 있는 AI 기반 DAO의 다음 물결에서는 어떤 일이 일어날까요?
이 패러다임에서 인간은 공동 소유 브랜드에서 인공 지능이 관리하는 자율 경제 기계와 유사한 브랜드로 이동하여 최소한의 영향력을 가진 상호 교환 가능한 투자자가 될 것입니까?
나는 DAO 시나리오에서 인간이 능동적인 관리자가 아닌 수동적 주주로 행동하는 조직 모델에 대한 더 많은 추세를 보게 될 것이라고 생각합니다. 그러나 인간이 이해할 수 있는 결정이 적고 다른 곳에서 온체인 자본을 제공하는 것이 더 쉬워지기 때문에 시간이 지남에 따라 커뮤니티 지원을 유지하는 것이 지속적인 과제가 될 수 있습니다.
DAO를 적극적으로 활용하는 방법
좋은 소식은 위의 모든 문제를 사전에 해결할 수 있다는 것입니다. 예를 들어:
- 거버넌스 측면에서 DAO는 인간 유권자나 인간 전문가로 구성된 순환 위원회를 위해 영향력이 큰 특정 결정을 유보하는 거버넌스 메커니즘을 실험할 수 있습니다.
- 불일치 관련 - 일관성 검사를 반복적인 운영 비용(예: 보안 감사)으로 처리함으로써 DAO는 AI 에이전트의 공공 목표에 대한 충성도가 일회성 문제가 아니라 지속적인 책임이 되도록 보장할 수 있습니다.
- 중앙 집중화와 관련하여 DAO는 커뮤니티 구성원 간의 광범위한 기술 구축에 투자할 수 있습니다. 시간이 지남에 따라 이는 소수의 "AI 마법사"가 거버넌스를 제어하는 위험을 완화하고 기술 관리에 대한 분산형 접근 방식을 촉진할 것입니다.
- 지원 관련 – 더 많은 DAO에서 인간이 수동적인 이해관계자가 되면서 이러한 조직은 스토리텔링, 임무 공유, 커뮤니티 의식을 두 배로 늘려 자본 할당의 즉각적인 논리를 초월하고 장기적인 지원을 유지할 수 있습니다.
다음에 무슨 일이 일어나든 이곳의 미래는 밝다는 것은 분명합니다.
Vitalik이 최근 DAO 노력은 아니지만 인공 지능과 인간 심사관을 사용하여 Ethereum 오픈 소스 개발을 위한 새로운 자금 조달 메커니즘을 개척하는 것을 목표로 하는 Deep Funding을 어떻게 출시했는지 생각해 보세요.
이는 단지 새로운 실험일 뿐이지만 더 광범위한 추세를 강조합니다. 인공 지능과 분산형 협업의 교차가 가속화되고 있습니다. 새로운 메커니즘이 등장하고 성숙해짐에 따라 DAO가 이러한 AI 개념에 점점 더 적응하고 확장될 것으로 기대할 수 있습니다. 이러한 혁신은 독특한 과제를 가져올 것이므로 지금이 바로 준비를 시작할 때입니다.
