새 직함 없이 얹힌 책임 — 인공지능 감독의 증거

미국 테네시 서부연방지방법원이 인공지능이 만든 것으로 의심되는 서면을 낸 법률사무소를 제재했다. 상대 측은 인용된 판례가 주장을 뒷받침하지 않고 존재하지 않는 인용문이 들어 있다고 지적했다. 법원은 판례의 존재 여부만 묻지 않고 인용 전에 어떤 확인 절차를 밟았는지 밝히라고 명령했다. 사무소가 낸 것은 인공지능 윤리 교육을 안내하는 사내 메일 한 통뿐이었고, 교육이 실제로 이뤄졌다거나 확인이 수행됐다는 기록은 없었다. 담당자가 퇴사했다는 설명에 대해 법원은 서면에 대표가 직접 서명했다는 점을 들어 책임이 면제되지 않는다고 봤다. 새 의무가 생긴 것이 아니다. 적용된 것은 90년 가까이 존재해 온 서명자의 확인 의무이며, 달라진 것은 그 이행을 사후에 증명하기 어려워졌다는 사정이다.

영국 금융행위감독청과 건전성감독청은 고위관리자 제도에 인공지능 전용 책임 항목을 신설하자는 의견 수렴에서 반대가 많자 신설하지 않는 대신, 해당 업무 영역을 이미 책임지는 고위 관리자가 그 안에서 쓰이는 인공지능에 대해서도 자동으로 책임진다고 확인했다. 새 임명장이나 직무기술서 변경 없이 책임이 옮겨 온 것이며, 그 임원은 합리적 감독 조치를 취했음을 입증하지 못하면 개인 단위로 조사와 제재를 받을 수 있다. 분석은 이 방식이 금융권 밖으로 번지고 있다고 본다. 문제가 생겼을 때 감독기관과 법원이 먼저 보는 것이 조직도가 아니라 누가 위험을 제기하고 감독하고 승인했는지의 기록이기 때문이다. 시간표도 정리됐다. 유럽연합 인공지능법의 고위험 의무는 독립 시스템 2027년 12월, 제품 내장 2028년 8월로 미뤄졌지만, 인공지능과 상호작용 중임을 알리는 제50조 표시 의무는 8월 2일 발효했고 영국 데이터법 제80조는 2026년 2월부터 자동화 결정에 대한 설명·재검토·이의 제기 권리를 부여한다.

한국부패방지법학회가 8월 21일 인공지능 시대의 공공부패 방지를 대주제로 하계 정기학술대회를 열었다. 대진대 행정정보학과, 미래융합법연구소, 지역발전연구소가 함께했다. 기조 발제자는 인공지능이 방대한 데이터에서 사람이 놓친 부패 위험 징후를 찾아내는 유용한 도구인 동시에 그 자체가 부패의 도구가 될 수 있다고 보고, 부패를 잡기 위해 쓰는 인공지능도 감사를 받아야 한다고 제안했다. 이를 위해 주입한 데이터, 사용한 모델과 버전, 도출된 결과, 최종 검토·결정자를 추적할 수 있어야 한다는 것이다. 다른 발제자는 정보공개의 방향 전환을 제안했다. 신청을 받아 내주는 방식이 아니라 법령의 각 조문에 그 조문을 집행하며 생성된 공공정보를 연결해, 위원회 규정이나 보조금 지급 규정 같은 조문 위치에서 관련 정보를 바로 볼 수 있게 하자는 안이다. 감찰 권한이 없는 곳의 부패 통제, 덴마크 공공부패 방지 법제, 미국 원격의료 부패방지제도도 함께 다뤄졌다.

한국지역난방공사가 8월 27일 윤리·인권경영헌장 선포식을 열고 개정 내용을 공개했다. 윤리헌장에는 임직원 행동강령 준수와 이해충돌 방지, 안전경영, 이해관계자 존중과 부패 근절, 열린 조직문화, 사회 발전 기여의 다섯 개 실천 원칙이 담겼다. 인권경영헌장 열두 개 원칙에는 중대재해처벌법 준수, 연결되지 않을 권리, 탄소중립과 함께 생성형 인공지능 활용에 따른 인권침해 예방이 포함됐다. 선포식에서는 이해충돌 방지 실천 캠페인이 함께 진행됐다. 같은 주 한전KDN은 8월 26일 경영진과 직원이 함께하는 청렴 소통 프로그램을 열어 갑질·예산·청탁·특혜 네 개 취약 분야의 실제 사례를 분석하고, 발굴된 개선 과제를 청렴 유관부서 협의체와 연계해 제도와 업무 절차에 반영하겠다고 밝혔다. 이 기관은 이해충돌방지 자문위원회를 운영 중이며 인공지능 윤리원칙 수립도 추진하고 있다. 선언이 실천으로 이어지는지는 다음 해의 문제이지만, 윤리헌장의 관리 범위에 인공지능이 들어오기 시작했다는 사실은 기록해 둘 만하다.

유럽연합 인공지능감독국이 기술 전문가·법률 담당관·운영 담당관·법률 보조 등 계약직 40명 채용을 시작했다. 총원은 약 165명이 된다. 8월 2일 집행 개시 이후 감독국과 회원국 당국은 정보 제출 요구, 모델 평가, 접근 요구, 공급자 사업장 현장 점검을 실제로 쓰기 시작했고, 신고 창구는 일반·업계 종사자 내부고발·후속 공급자의 세 갈래로 열렸다. 금지 관행에는 3,500만 유로 또는 전 세계 매출액의 7퍼센트까지 제재할 수 있다. 일정은 단계적이다 — 친밀 콘텐츠·아동 성착취물 금지 2026년 12월, 고위험 시스템 2027년 12월, 규제 대상 제품 2028년 8월. 같은 날 발효된 규칙에 따라 이용자가 인공지능과 대화 중이거나 생성 콘텐츠를 보고 있을 때 이를 알릴 의무가 유럽연합 전역에 적용되기 시작했다. 180곳 넘게 서명한 투명성 행동강령은 표시·라벨링만 다루고 에이전트·챗봇 고지 의무는 비워 뒀다.

알바니아는 지난해 9월 공공 입찰을 부패에서 자유롭게 하겠다며 인공지능 '디엘라'를 각료 지위로 내세웠다. 그런데 이 시스템을 개발한 국가정보사회청(AKSHI)의 청장과 부청장이 특정 범죄 조직에 유리하게 입찰을 조작한 혐의로 반부패 특별검찰의 수사를 받고 있다. 법원 명령서에 담긴 혐의에는 현금을 채운 와인 상자로 대가를 받았다는 내용이 포함됐고, 정보기술 회사 소유주 두 명도 입건됐다. 압수가 명령된 자산은 부동산·차량·계좌·현금을 합쳐 4,000만 유로가 넘는다. 디엘라 개발 자체는 문제된 입찰에 포함되지 않았고, 관련자 누구도 아직 정식 기소되지 않았다. 부패 통제 도구의 성능보다, 그 도구를 만들고 운영하는 조직이 누구의 통제를 받는가를 먼저 물어야 한다는 점을 보여 주는 사건이다.