인공지능을 '안전하게'만든다는 말은 정확히 무엇을 의미하는가. 연구자마다 다른 답을 내놓는 이 혼란이 AI 정렬 연구의 발목을 잡고 있다.
케빈 바움연구자는 AI 안전성,AI 정렬,기계 윤리 간의 개념적 중첩을 해소하는 구조화된 분류 체계를 제안해 2025년 AISoLA 콘퍼런스에서 발표했다. 최근 AI 연구의 급격한 발전으로 실제 세계에 중대한 영향을 미칠 수 있는 자율적 에이전트가 등장하면서, 이들이 광범위한 규범적 기준을 충족하도록 보장하는 일의 중요성이 어느 때보다 커지고 있다.
연구의 핵심은 세 가지 차원으로 정렬 개념을 분해하는 것이다. 첫 번째 차원인 '정렬 목표'는 AI 시스템이 무엇에 맞춰 정렬되어야 하는지를 구분한다. 단순한 안전성만이 아니라 윤리성, 합법성, 공정성 등 다양한 규범적 가치가 포함된다. 두 번째 차원인 '범위'는 결과 중심 정렬과 실행 과정 중심 정렬을 구별한다. 세 번째 차원인 '이해관계자'는 개인 대상 정렬과 집단·사회 전체 대상 정렬을 나눈다.
이 세 차원의 조합은 AI 정렬이 '전반적으로 정렬된 상태'란 무엇인지에 대한 명확한 언어와 개념 지도를 제공한다. 기존에는 연구자들이 같은 단어를 서로 다른 의미로 사용하거나, 일부 차원만 다루면서 마치 전체를 다루는 것처럼 오해하는 문제가 있었다.
이 분류 체계의 실용적 가치는 크다. AI 정책 입안자는 규제 목표를 더 정밀하게 설정할 수 있고, 연구자들은 자신의 연구가 정렬의 어떤 차원을 다루는지 명확히 할 수 있다. 또한 기술·철학·법학·사회과학 등 다학제 간 협력에서 공통 언어로 기능할 수 있다.
AI 거버넌스 논의가 전 세계적으로 가속화되는 시점에서, 개념의 명확성은 단순한 학문적 문제가 아니라 실효성 있는 정책 수립의 전제 조건이다.
출처: Kevin Baum, "Disentangling AI Alignment: A Structured Taxonomy Beyond Safety and Ethics",AISoLA 2025
What exactly does it mean to make an artificial intelligence system safe? The fact that researchers give different answers to this question is quietly undermining progress in AI alignment research.
Kevin Baum presented a structured taxonomy to resolve the conceptual overlap among AI Safety, AI Alignment, and Machine Ethics at AISoLA 2025. With recent advances making it increasingly plausible that autonomous agents with significant real-world consequences will operate outside tightly controlled environments, establishing a clear shared vocabulary for alignment research has become an urgent necessity.
The framework decomposes the concept of alignment into three distinct dimensions. The first is the alignment aim: what an AI system should be aligned toward. This is not limited to safety alone but encompasses ethicality, legality, fairness, and other normative values that may sometimes conflict. The second dimension is scope, distinguishing between outcome-oriented alignment — ensuring the system produces acceptable results — and execution-oriented alignment, which focuses on how the system behaves during operation. The third dimension is constituency, separating alignment toward individual users or operators from alignment toward collective or societal interests.
These three dimensions together form a conceptual map that clarifies what it means for an AI system to be aligned all-things-considered. A system optimized only for one dimension while neglecting others may appear aligned under one framing but misaligned under another — a source of significant confusion in both research literature and policy debates.
The practical value of this taxonomy is substantial. Policymakers can define regulatory objectives with greater precision. Researchers can explicitly identify which dimensions of alignment their work addresses and which remain unresolved. Across disciplines including computer science, philosophy, law, and social science, the taxonomy can serve as a shared language that facilitates more productive collaboration.
As AI governance frameworks accelerate globally, conceptual clarity is not merely an academic concern — it is a prerequisite for effective policy.
Source: Kevin Baum, "Disentangling AI Alignment: A Structured Taxonomy Beyond Safety and Ethics", AISoLA 2025 (arXiv:2506.06286)
