국정기획위원회에 바란다 – 정책제안 제6회]

기술, 관리 없이 위험하다

기술 발전의 그늘, 리스크는 자라난다

제도 없는 기술혁신은 국가적 재난이 된다

전기차 화재, 자율주행차 사고, AI 신뢰성 논란, 해킹에 뚫린 스마트시티…
이 모든 사건의 공통점은 기술 자체의 실패가 아니라 **‘기술을 관리하지 못한 실패’**라는 점이다.

기술은 빠르게 발전했지만, 그 기술을 제도·문화·윤리로 감싸 안을 리스크 관리 체계는 따라가지 못했다. ‘기술혁신=진보’라는 단선적 사고가 문제의 핵심이다. 이젠 기술을 국가적 자산이자 동시에 잠재적 위협으로 바라보는 균형 잡힌 시선이 필요하다.

▣ '기술 리스크'란 무엇인가?

기술 리스크란 단순히 ‘기술이 고장 나는 것’을 말하지 않는다. 기술이 사회 전반에 미치는 영향이 예측 불가능하거나, 통제할 수 없는 결과로 이어질 가능성 전체를 포함한다.

예를 들어, AI가 범죄를 예측하거나 채용을 담당하는 시스템으로 사용될 때, 그 알고리즘이 공정하지 않다면 사회적 갈등은 증폭된다. 전기차는 친환경 기술이지만 배터리 화재에 대한 기준이 없다면, 대중의 불신은 확대될 수밖에 없다.

▣ 대한민국의 '기술 리스크 관리' 현주소

대한민국은 기술개발 투자는 세계적 수준이지만, 이를 통제·감독·윤리화할 제도적 기반은 아직 걸음마 수준이다.

• AI 윤리 기준, 자율주행 안전규정, 메타버스 내 법적 문제, 이 모두가 담당 부처조차 명확하지 않은 실정이다.

• 정부 R&D 예산은 많지만 기술사회적 영향 평가에 쓰이는 예산은 1%도 안 되는 수준이다.

이대로라면 ‘기술이 앞장서고, 법과 제도는 나중에 고치는’ 사후 대응 국가로 고착될 수밖에 없다.

▣ 제안합니다: "기술리스크관리국" 신설

기술은 이제 ‘산업’만의 문제가 아니라 국가 안전, 법률, 교육, 노동, 복지까지 영향을 미치는 종합적 리스크 요인이다. 이를 총괄할 ‘기술리스크관리국’(가칭)의 설치를 제안한다.

이 조직은 다음과 같은 역할을 수행할 수 있다:

1. 기술영향 사전평가 의무화 – 주요 기술 도입 전 사회·윤리·안전 영향 평가 실시

2. 기술별 리스크 기준 제정 – AI, 로봇, 자율주행, 바이오, 플랫폼 등

3. 민관 통합 감시기구 – 기술기업과 시민사회의 공동 감시 체계 구축

4. 국민소통 플랫폼 – 기술과 관련된 국민 우려 사항을 상시 청취하고 반영

5. 기술재난 시나리오 훈련 및 대응 매뉴얼 구축

이제 기술은 단순한 경제성장의 도구가 아니라 국가 존립의 기반이다. 그만큼 기술리스크 관리는 새로운 국가전략이어야 한다.