[NeurIPS-24 읽기 5/N] AI 들로 이루어진 생태계 멸망 가능성 시뮬레이션 (feat: 칸트 - 정언명령)

💡 Governance of the Commons Simulation (GovSim)은 대규모 언어 모델(LLMs)의 전략적 상호작용과 협동적 의사결정을 연구하는 생성적 시뮬레이션 플랫폼입니다. GovSim에서 AI 에이전트들은 자원을 효율적으로 활용하면서도 미래를 위한 보존을 고민해야 하는데, 이 환경은 윤리적 판단, 전략적 계획, 협상 능력이 협력 결과에 어떻게 영향을 미치는지 살펴볼 수 있게 해줍니다 ⚖️🌱.

GovSim에 LLM 기반 에이전트 아키텍처를 적용하고, 다양한 오픈 및 폐쇄형 LLM을 테스트한 결과, 대부분의 LLM 에이전트가 지속 가능한 균형을 달성하지 못했으며, 생존율이 54% 이하로 나타났습니다. 에이전트 간 효과적인 소통이 협력 달성의 핵심이었고, 대부분의 LLM이 장기적 영향을 예측하고 분석하는 데 한계를 보였습니다 🔄🤖.

특히 '보편화'에 기반한 도덕적 사고를 적용한 에이전트들이 더 나은 지속 가능성을 달성했으며, 이를 통해 자치 정부의 지속 가능성을 대규모로 연구할 수 있는 플랫폼을 제공했다는 점에서 GovSim의 가치가 큽니다