이 글에서는 인공지능에 대한 법인격 부여 논의에 관하여, 민사법적·인간 중심적 관점에 국한하여 분석하였다.
먼저 논의의 필요에 맞추어 인공지능 및 법인격의 일반론을 다루되, 인공지능의 자율성과 함께 설명가능성 문제 내지는 블랙박스로서의 성격을 강조하였다. 다음으로 인공지능 법인격 부여 찬성론의 주요 논거로서 배상책임 및 의사표시 귀속 문제에 관한 법적 불확실성에 관하여 살펴본 뒤, 신중론의 입장에서 찬성론의 논거를 탄핵하였다.
인공지능에게 법인격을 부여할 경우 배후의 설계자나 운용자에 의한 프로그램의 조작가능성, 영리 목적의 경우 고도의 위험추구 행위 문제, 소위 위험책임의 논의 등에 비추어 종래의 법인과 비교할 때 남용가능성이 가중되고 특히 불법행위 손해배상채권자의 보호가 문제 될 수 있다. 반면 찬성론 측에서 지적한 법적 불확실성은 종래의 법리의 포괄적 해석 또는 유추적용을 통하여 상당 부분 해소될 수 있을 것이기에[주의의무와 관련하여서는 최근의 설명가능 인공지능(XAI)의 논의도 반영], 이익형량 내지는 비용편익 분석의 관점에서 살펴볼 때 인공지능에 대한 법인격 부여에 신중할 필요가 있다. 특히 영리와 비영리 분류를 염두에 두어, ‘인공지능 영리법인’의 경우 실정법상 주식회사의 주주와 같이 이익 배분에 관한 경제적 권리를 갖는 배후자의 존재를 감안할 때 종래의 회사 제도를 벗어나기 어려운 점을 강조하여 지적하였다.
다만 제한적인 법인격 도입의 전제 요건으로서, ① 인공지능의 특정 ② 자율성·범용성을 갖는 강인공지능 ③ 의사결정구조의 완결성 ④ 남용가능성에 대한 통제 수단으로서의 비영리성, 자족성 및 충분한 책임재산의 확보, 포괄적 공시의 요건을 제시하였다.
This Article analyzes the cost and benefit of granting artificial intelligence (hereinafter “AI”) with legal personality, focusing on the civil law and human-centered perspective.
The main argument in favor of granting AI legal personality is based on the legal uncertainty regarding the issue of liability allocation and interpretation of contracts. The alleged legal uncertainty derives from the autonomy, and so-called ‘black box problem’ (the explainability) regarding AI. However, while the issues related to the above legal uncertainty can be dealt with based on the comprehensive interpretation or inferential application of conventional jurisprudence (the recent development in XAI (eXplainable AI) theory also helps solving the problem), granting AI legal personality will greatly increase the possibility of abusing the legal personality, and the protection of tort damages creditors may become a serious problem, in light of the possibility of the manipulation of AI by the entities behind, high risk-seeking behavior in commercial cases, and the discussion of so-called risk liability. Especially in the commercial case, due to the entities behind the corporation such as conventional shareholders, ‘AI corporation’ operating entirely on the basis of AI’s autonomy would not be practical. Thus, in the perspective of cost-benefit analysis, a more careful approach on granting AI legal personality is necessary.
AI legal personality can be introduced under strict conditions: ① the specification of AI; ② strong AI (general AI); ③ completeness of decision-making structure; and ④ non-profitability, self-sufficiency based on sufficient liability property, and comprehensive disclosure - as a means of controlling the possibility of abuse.