[PEDIEN] 경기도의 AI 노인말벗 서비스가 개인정보보호에 취약하다는 지적이 제기됐다.

고준호 경기도의원은 AI 돌봄 서비스가 개인정보보호법을 위반할 소지가 있으며 도민의 민감한 정보가 불투명하게 관리되고 있다고 주장했다.

고 의원은 경기도사회서비스원이 세종네트웍스를 사업 수행 기관으로 선정하고 세종네트웍스가 네이버클라우드와 컨소시엄을 구성해 사업을 진행하는 과정에서 데이터 처리 구조의 불투명성을 지적했다.

어르신들의 음성 데이터가 네이버클라우드 서버에서 분석 및 보관되지만, 서비스 신청서에는 관련 내용이 명확히 기재되지 않아 도민 동의의 실효성을 저해한다는 것이다.

또한, AI 학습 목적 고지 누락과 민감 정보 관리의 부실함도 문제점으로 지적됐다.

과업지시서에는 AI 학습 및 모델 개선, 대화 데이터 구축 등의 내용이 명시되어 있지만, 신청서에는 단순히 서비스 제공으로만 기재되어 어르신들이 자신의 정보가 어떻게 활용되는지 알 수 없다는 것이다.

서비스 철회권에 대한 안내 부족 역시 문제점으로 거론됐다.

고 의원은 경기도사회서비스원의 관리 감독 부실도 지적하며 세종네트웍스와 네이버클라우드 간의 재위탁 구조 속에서 개인정보보호법상 수탁자 감독 의무 위반 소지가 있다고 꼬집었다.

사업 담당 팀장은 감독 사실이 없다고 답변한 것으로 알려졌다.

최근 입찰 평가 기준 변경에 대해서도 고 의원은 기존 수행 업체에 유리하게 편향된 구조라고 비판했다.

기존 건수 중심에서 금액 중심으로 평가 방식이 변경되면서 기술력보다 인력 수와 안정성을 중시하는 방식으로 바뀌었다는 것이다.

필수 제출 서류인 지방세 및 4대보험 완납증명서가 의원의 요구 후에야 제출된 점도 행정 절차의 미흡함을 드러내는 사례로 지적됐다.

고준호 의원은 AI 기술이 도민의 삶에 깊숙이 들어오는 만큼, 개인정보의 투명성과 윤리 기준이 중요하다고 강조하며 더 똑똑한 기술보다 더 안전하고 투명한 행정이 우선되어야 한다고 주장했다.