인공지능(AI) 기본법 시대, 이제는 신뢰를 준비할 때입니다.

올해 초 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능 기본법)」이 시행되었습니다. 그리고 오는 7월 21일부터는 산업 육성과 신뢰성 확보를 위한 구체적인 세부 기준을 담은 시행령의 주요 내용들이 적용될 예정입니다. 최근 몇 년 동안 우리는 인공지능 기술의 눈부신 발전을 목격해 왔습니다. 생성형 AI는 문서를 작성하고, 이미지를 생성하며, 코드를 짜내는 등 인간의 업무 방식을 근본적으로 변화시키고 있습니다. 많은 기업이 생존을 위해 AI를 적극적으로 도입하고 있으며, 정부 역시 이를 국가 경쟁력의 핵심 축으로 보고 정책적 지원을 아끼지 않고 있습니다.

그러나 이처럼 가파른 기술 발전의 속도에 비해, 정작 우리가 마주해야 할 본질적인 질문은 충분히 논의되지 못했습니다. 과연 우리는 이 인공지능을 믿고 사용할 수 있는가라는 질문입니다. 이미 AI는 기업의 채용 과정에서 지원자를 평가하고, 금융 분야에서는 신용 등급과 대출 심사를 좌우하며, 의료 현장에서는 질병의 진단을 보조하는 등 우리 삶의 깊숙한 영역까지 들어와 있습니다. 하지만 정작 이용자들은 자신이 AI의 판단을 받고 있다는 사실조차 인지하지 못하는 경우가 많았습니다. 어떤 알고리즘을 거쳐 그러한 결과가 도출되었는지 납득할 만한 설명을 듣기도 어려웠던 것이 현실입니다. 인공지능이 사회적 영향력을 확대하는 속도에 비해, 이를 뒷받침할 제도적 안전장치는 상대적으로 부족했습니다.

이러한 맥락에서 이번 AI 기본법과 시행령의 본격적인 적용은 단순한 시장 규제 이상의 의미를 가집니다. 이는 AI 산업의 건강한 성장을 도모하는 동시에, 사회적 신뢰라는 단단한 기반을 다지기 위한 첫 번째 제도적 이정표라고 볼 수 있습니다. 이번 시행령 개정안에서 주목해야 할 내용은 크게 네 가지로 요약됩니다.

먼저 공공기관에 도입되는 AI 제품과 서비스의 신뢰성을 사전에 공인된 기준으로 검증하는 공공조달 AI 제품·서비스 확인제가 도입됩니다. 이와 함께 공공기관 담당자가 고의나 중대한 과실이 없는 경우 감사 부담에서 벗어나 AI 기술을 적극적으로 추진할 수 있도록 면책 조항을 마련했습니다. 또한 AI 사업자의 투명성과 안전성 확보 의무가 구체화되어, 서비스를 제공할 때는 이용자에게 사전에 고지하고 위험 요소를 상시 관리하며 필요한 경우 도출된 결과에 대해 설명할 수 있는 체계를 갖추어야 합니다. 마지막으로 노인과 장애인 등 디지털 환경에 상대적으로 취약한 계층까지 AI 기술의 혜택을 누릴 수 있도록 접근성을 확대하고 지원 체계를 넓히는 내용이 포함되었습니다.

저는 특히 취약계층의 디지털 접근성 강화와 고지 의무 조항에 주목하고 있습니다. 기술이 아무리 진보하더라도 그 혜택이 특정 계층이나 전문가들에게만 집중된다면, 기술 발전은 오히려 새로운 형태의 사회적 소외와 격차를 낳을 수 있기 때문입니다. 반대로 누구나 장벽 없이 안전하게 AI에 접근하고 배울 수 있는 환경이 보장된다면, 이 기술은 사회 전체의 생산성을 고르게 끌어올리는 공평한 기회가 될 것입니다.

따라서 기업과 개발 주체들 역시 이제는 단순히 최신 기술을 도입하는 수준을 넘어 조직의 내실을 점검해야 할 시점입니다. 우리 조직이 활용하는 AI 시스템이 어디에 위치해 있는지, 사용자가 그 사실을 명확히 인지하고 있는지, 그리고 예기치 못한 오류나 문제가 발생했을 때 투명하게 설명하고 대응할 수 있는 체계가 갖춰져 있는지를 스스로 돌아보아야 합니다. 앞으로의 인공지능 경쟁력은 단순히 더 거대한 데이터와 뛰어난 성능의 모델을 보유하고 있느냐에 의해서만 결정되지 않을 것입니다. 시스템을 얼마나 투명하게 운영하는지, 이용자 앞에 얼마나 책임감 있게 다가서는지, 그리하여 사회적으로 얼마나 깊은 신뢰를 구축해 내는지가 진정한 차별점이 될 것입니다.

흔히 법적 제도의 도입을 산업의 발목을 잡는 규제의 시작으로 보며 우려 섞인 시선을 보내곤 합니다. 그러나 인공지능 산업은 이제 양적 성장의 단계를 넘어, 사회적 수용성을 확보해야 하는 신뢰의 단계로 진입하고 있습니다. 기술이 우리 일상에 깊게 스며들수록 성능만큼 중요한 것은 책임이며, 혁신만큼 중요한 것은 안전입니다.
오는 7월 21일은 규제의 장벽이 세워지는 날이 아니라, 인공지능이 우리 사회의 지속 가능한 신뢰를 얻기 위해 첫걸음을 내딛는 출발선이 되어야 합니다. 이제 AI 경쟁력은 단순한 성능이 아니라 신뢰로 평가받게 될 것입니다. 그리고 그 신뢰를 만들어가는 일은 정부의 제도 정비뿐만 아니라 기술을 개발하는 기업, 교육하는 기관, 그리고 AI를 사용하는 우리 모두가 함께 책임져야 할 과제입니다.