과학기술의 발전에 따른 지능정보화사회에서 인공지능은 더 이상 낯선 존재가 아닌 우리 사회의 일부가 되고 있고, 이는 공행정의 영역에서도 마찬가지이다. 법은 사회질서의 반영인 점에서 인공지능을 중심으로 하는 4차산업혁명 상황을 법체계 내로 포섭시키는 것은 현대 법학의 중요한 과제의 하나이다. 그러나 인간을 중심으로 하는 전통적인 법의 세계는 인간의 개입을 거부하는 인공지능에 친하지 않은바, 특히 인공지능에 의한 자동행정결정의 경우에는 전통적인 행정법 체계와 충돌 및 모순의 가능성을 갖는다. 그러한 점에서 인공지능행정 시대에 대비한 행정법제의 점진적 변혁 노력이 불가피한 바, 그 기본적 방향은 여전히 법의 근본적 원리와 가치인 민주주의 및 법치주의와의 부합되어야 한다.
우리나라 「행정기본법」 제20조 역시 완전자동적 처분을 명시적으로 규정함으로써 인공지능행정을 입법적으로 수용하고 있다. 다만 법률에 근거가 있어야 한다는 법률유보 원칙 하에서 재량이 인정되지 않는 기속행위에 대해서만 허용하고 있는바, 일반적 허용이 아닌 제한적인 허용을 하고 있고, 이는 법치주의적 고려에 따른 것으로 볼 수 있다. 그럼에도 개별 법제는 아직 자동적 처분의 수용에 미온적이며, 법체계상으로도 자동적 처분과 모순⋅충돌되는 규정이 다수인바, 행정작용법적 측면에서는 물론 행정구제법적으로도 많은 법적 쟁점을 노정하고 있다.
우선, 적용영역과 관련하여 기속행위에 한정하는 것은 원리적으로는 타당하나, 스스로 학습하 인공지능의 자율성을 고려할 때 자동적 처분에 있어 전통적인 기속행위와 재량행위의 구별 논의가 적절한지는 의문인바, 인공지능행정에 부합하는 법제적 정비가 필요하다.
둘째는 행정절차의 문제로서, 행정절차는 법치주의의 실현에 중요한 요소임은 분명하나, 알고리즘을 기반으로 하는 자동화된 행정에 있어서는 절차적 규율은 현실적으로 어렵다. 특히 인공지능에 기반한 자동화된 행정에 있어서는 단순히 절차적 보장보다 행정결정의 투명성의 확보가 중요한 바, 인공지능의 특성을 고려한 절차법제의 정비가 필요하다.
행정구제의 경우, 자동화된 행정결정의 경우에도 행정소송의 가능성과 관련하여 처분성의 인정은 특별한 문제가 없다. 다만 인공지능행정의 자율성으로부터 본안문제로서 위법의 판단 대상과 범위, 그 기준 등 설정이 용이하지 않으며, 특히 손해전보제도와 관련하여 전통적인 틀인 과실책임주의의 적용은 인공지능행정에 대한 권리구제를 어렵게 하는 주요 요소이다. 행정법의 궁극적 지향점은 행정구제라 할 수 있는바, 인공지능에 기반한 자동화된 행정결정에 부합하는 행정구제제도 및 법제의 정비 필요성이 크다.
인공지능은 오늘날 거스를 수 없는 대세이며, 법도 이를 도외시할 수 없다. 반면 당위를 본질로 하는 법이 인공지능이 가지는 과학기술적 본질에 매몰될 수는 없는바, 법의 근본적 가치인 민주주의와 법치주의에 부합하도록 인공지능을 법의 세계로 끌어들이는 노력이 필요하다. 법치주의의 본질인 자유와 권리에 대한 제한과 통제를 앞으로는 새로운 ‘전산화된 군주’에게 맡겨야 할지도 모른다는 인공지능시대의 우려가 현실이 되지 않도록 법은 그 보루의 역할을 하여야 한다.