AI 개발 100조 원 투자, 공공 인공지능(AI) 사업의 현주소와 개선 방안 제언

공공 인공지능(AI) 사업의 현주소와 개선 방안 제언

●      예산 낭비와 행정력 손실을 막고, 성공적인 AI 도입을 위한 정책 제안 

 

1. 문제 제기: "결과 없는 AI 사업," 이대로는 안 됩니다.

정부는 디지털 플랫품 정부의 성공과 국가 경쟁력 강화를 위해 인공지능(AI) 기술 도입에 수천억 원의 막대한 예산을 투입하고 있습니다. 그러나 현재 공공 부문에서 추진되는 다수의 AI 관련 용역 사업은 심각한 문제점을 안고 있으며, 이로 인해 막대한 예산 낭비와 행정력 손실이라는 부작용을 낳고 있습니다. ‘소버린 AI’와 같은 거대 담론이 자칫 속 빈 강정으로 전락할 수 있다는 위기감이 현장에서 팽배합니다.

현재 공공 AI 사업은 다음과 같은 구조적인 문제에 직면해 있습니다.

 

가. 목적과 목표가 불분명한 ‘묻지마’식 사업 발주

AI가 무엇을 해결해야 하는지에 대한 구체적인 정의 없이, ‘AI 기술 도입’ 자체가 사업의 목표가 되는 경우가 많습니다. 사업 범위는 방대하고 실현 가능성에 대한 깊은 고민 없이 수십, 수백억 원의 프로젝트가 발주되고 있습니다. 이는 AI 기술에 대한 이해 부족에서 비롯된 전형적인 문제입니다.

 

나. 경험 없는 공급자와 준비 안 된 데이터

성공적인 AI 시스템은 ①명확한 목표, ②숙련된 전문가, ③양질의 학습 데이터라는 3가지 핵심 요소가 필수적입니다. 하지만 현재 많은 사업에서 이 세 가지가 모두 부재합니다.

 

• 전문성 없는 공급자: 다수의 공급업체들이 사업을 수주한 뒤에야 비로소 AI 기술을 학습하는 ‘OJT(On-the-Job Training)’ 형태의 사업 수행이 만연합니다. 이는 고양이에게 생선을 맡기는 격으로, 성공적인 결과를 기대하기 어렵습니다.
• 데이터의 부재: AI의 핵심은 데이터입니다. 그러나 하드웨어 인프라와 분석 시스템 구축이 완료될 때쯤, 정작 AI를 학습시킬 데이터가 없거나, 데이터의 중요성을 간과하여 활용할 수 없는 상태(데이터 임베딩, 벡터화, RAG 적용 실패 등)인 경우가 현장 체감상 99%에 달합니다. 이는 AI 모델이 아닌 껍데기만 남는 결과를 초래합니다.

 

다. 심각한 부작용: 예산 낭비와 거짓 성과 보고의 악순환

실패한 사업의 결과는 단순히 ‘결과 없음’으로 끝나지 않습니다.

• 국민 혈세 낭비: 수년간 수백억의 예산이 결과물 없이 사라집니다.
• 행정력 마비: 실무자들은 작동하지 않는 시스템이 잘 작동하는 것처럼 보이기 위한 거짓 성과 보고서 작성에 내몰립니다. 정작 시급하고 중요한 본연의 업무는 뒷전으로 밀려납니다.
• 국가 경쟁력 저하: 잘못된 성공 사례가 누적되면서 국가 전체의 AI 전략에 대한 불신을 키우고, 올바른 정책 결정을 방해합니다.

 

2. 해결을 위한 제언: ‘선(先)검증, 후(後)확산’의 3단계 접근법 도입

실패를 반복하지 않기 위해서는 공공 AI 사업 발주 및 관리 프로세스의 전면적인 혁신이 필요합니다. ‘일단 시작하고 보자’는 관행에서 벗어나, 다음과 같은 ‘선(先)검증, 후(後)확산’의 3단계 접근법을 제안합니다.

 

1단계: 모든 공공 AI 사업의 전면 재검토 및 옥석 가리기

• 현재 진행 중이거나 계획된 모든 공공 AI 관련 사업을 원점에서 재검토해야 합니다.
• 사업 목표의 명확성, 데이터 확보 가능성, 기술적 실현 가능성이라는 명확한 잣대로 사업의 타당성을 전면 재평가하여, 실현 불가능하거나 성과가 불투명한 사업은 과감히 중단하거나 축소해야 합니다.

 

2단계: PoC/MVP를 통한 ‘작고 빠른 성공’ 경험 축적

• 신규 AI 사업은 반드시 **개념 증명(PoC, Proof of Concept)**이나 최소 기능 제품(MVP, Minimum Viable Product) 단계를 거치도록 의무화해야 합니다.
• 작은 규모로 빠르게 시도하여 기술적, 정책적 실현 가능성을 검증하고, 실제 데이터를 통해 AI 모델의 성능을 확인하는 과정을 거쳐야 합니다. 이를 통해 최소한의 비용으로 실패의 위험을 줄이고, 성공의 가능성을 극대화할 수 있습니다.

 

3단계: 검증된 사업만 단계적으로 확산

• PoC/MVP를 통해 성공 가능성이 검증된 사업에 한해서만, 단계적으로 예산을 투입하고 사업 범위를 확대해야 합니다.
• 1단계의 성공적인 결과를 바탕으로 2단계, 3단계로 점진적으로 나아가는 방식은 예산의 효율성을 높이고, 각 단계에서 얻은 교훈을 통해 시스템을 더욱 고도화할 수 있게 합니다.

 

3. 맺음말: "AI 공부가 먼저입니다."

인공지능은 국가의 미래를 좌우할 핵심 동력이지만, 장밋빛 환상만으로 성공할 수 없습니다.

1. 철저한 준비와 전략적인 접근이 없다면 AI는 ‘첨단 기술’이 아닌 ‘예산 먹는 하마’로 전락할 것입니다.
2. 사업을 발주하기 전에, 정책 입안자와 사업 담당자들이 먼저 AI를 제대로 공부하고 이해해야 합니다.
3. 성공적인 공공 AI 사업은 기술이 아닌, 그것을 이해하고 올바르게 활용하려는 사람의 노력에서 시작됩니다.
4. 이제는 보여주기식 사업을 멈추고, 내실 있고 성공 가능한 AI 정책으로의 대전환을 시작할 때입니다.