올해 초 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능 기본법)」이 시행됐습니다. 오는 7월 21일부터는 산업 육성과 신뢰성 확보를 위한 구체적인 기준을 담은 시행령의 주요 내용도 적용됩니다. 최근 몇 년 사이 인공지능 기술은 눈에 띄게 발전했습니다. 생성형 AI는 문서를 쓰고, 이미지를 만들고, 코드까지 짜면서 우리 업무 방식을 근본적으로 바꿔놓고 있습니다. 많은 기업이 생존을 위해 AI를 적극 도입하고 있고, 정부도 이를 국가 경쟁력의 핵심으로 보고 정책 지원을 아끼지 않고 있습니다.
그런데 이 가파른 기술 발전 속도에 비해, 정작 우리가 물어야 할 본질적인 질문은 충분히 논의되지 못했습니다. "이 인공지능을 믿고 써도 되는가"라는 질문입니다. AI는 이미 기업 채용에서 지원자를 평가하고, 금융에서는 신용 등급과 대출 심사를 좌우하고, 의료 현장에서는 진단을 돕는 등 우리 삶 깊숙한 영역까지 들어와 있습니다. 하지만 정작 이용자는 자신이 AI의 판단을 받고 있다는 사실조차 모르는 경우가 많았습니다. 어떤 알고리즘을 거쳐 그런 결과가 나왔는지 납득할 만한 설명을 듣기도 어려웠던 게 현실입니다. AI가 사회적 영향력을 넓혀가는 속도에 비해 이를 뒷받침할 제도적 장치는 상대적으로 부족했습니다.
이런 배경에서 이번 AI 기본법과 시행령의 본격 적용은 단순한 시장 규제 이상의 의미를 갖습니다. AI 산업의 건강한 성장을 도모하면서 동시에 사회적 신뢰라는 기반을 다지는 첫 제도적 이정표라고 볼 수 있습니다. 이번 시행령 개정안에서 눈여겨볼 내용은 크게 네 가지입니다.
먼저 공공기관에 도입되는 AI 제품·서비스의 신뢰성을 사전에 공인된 기준으로 검증하는 공공조달 AI 제품·서비스 확인제가 도입됩니다. 공공기관 담당자가 고의나 중대한 과실이 없다면 감사 부담 없이 AI 기술을 적극 추진할 수 있도록 면책 조항도 마련됐습니다. AI 사업자의 투명성·안전성 확보 의무도 구체화돼, 서비스 제공 시 이용자에게 사전 고지하고 위험 요소를 상시 관리하며 필요하면 결과에 대해 설명할 수 있는 체계를 갖춰야 합니다. 마지막으로 노인과 장애인 등 디지털 취약계층까지 AI 기술의 혜택을 누릴 수 있도록 접근성을 넓히고 지원 체계를 강화하는 내용도 담겼습니다.
저는 특히 취약계층의 디지털 접근성 강화와 고지 의무 조항에 눈이 갑니다. 기술이 아무리 발전해도 그 혜택이 특정 계층이나 전문가에게만 집중되면, 기술 발전은 오히려 새로운 사회적 소외와 격차를 낳을 수 있습니다. 반대로 누구나 장벽 없이 안전하게 AI에 접근하고 배울 수 있다면, 이 기술은 사회 전체의 생산성을 고르게 끌어올리는 공평한 기회가 될 수 있습니다.
기업과 개발 주체도 이제는 최신 기술을 들여오는 수준을 넘어 조직의 내실을 점검해야 할 때입니다. 우리 조직이 쓰는 AI 시스템이 어디에 위치해 있는지, 사용자가 그 사실을 명확히 인지하고 있는지, 예기치 못한 오류나 문제가 생겼을 때 투명하게 설명하고 대응할 체계가 갖춰져 있는지 스스로 돌아봐야 합니다. 앞으로 AI 경쟁력은 더 큰 데이터와 더 뛰어난 모델을 갖췄는지만으로 결정되지 않을 겁니다. 시스템을 얼마나 투명하게 운영하는지, 이용자 앞에 얼마나 책임감 있게 다가서는지, 그래서 사회적으로 얼마나 깊은 신뢰를 쌓아가는지가 진짜 차별점이 될 겁니다.
흔히 법적 제도의 도입을 산업 발목을 잡는 규제로 보고 우려하기도 합니다. 하지만 인공지능 산업은 이제 양적 성장 단계를 넘어 사회적 수용성을 확보해야 하는 신뢰의 단계로 들어서고 있습니다. 기술이 일상에 깊이 스며들수록 성능만큼 중요한 게 책임이고, 혁신만큼 중요한 게 안전입니다.
7월 21일은 규제의 장벽이 세워지는 날이 아니라, 인공지능이 우리 사회의 지속 가능한 신뢰를 얻기 위한 첫걸음을 떼는 출발선이어야 합니다. 앞으로 AI 경쟁력은 성능이 아니라 신뢰로 평가받게 될 겁니다. 그리고 그 신뢰를 만드는 일은 정부의 제도 정비만으로 되지 않습니다. 기술을 개발하는 기업, AI를 쓰는 우리 모두가 함께 책임져야 할 과제입니다.
댓글 0
첫 번째 댓글을 남겨보세요!