실시간뉴스
투데이 HOT 이슈
- [이수영의 AI 시대를 읽는 인터넷 거버넌스 칼럼] 『Physical AI 시대를 묻다』 ③ 피지컬 AI가 해킹 공격을 받게 된다면 무슨 일이 벌어질까?
- “만약 누군가 AI의 눈을 속이고, 판단을 조작한다면 어떻게 될까?” 우리는 흔히 인공지능(AI)의 위험을 이야기할 때 이렇게 생각한다. AI가 잘못된 판단을 하는 것, AI가 편향된 결과를 내놓는 것, AI가 인간의 일자리를 변화시키는 것. 하지만 피지컬 AI 시대에는 한 가지 질문을 더 해야 한다. 만약 AI가 공격받는다면 어떻게 될까? 생각해보자. 자율주행차의 카메라가 조작된다면? 공장 로봇의 제어 시스템이 침해된다면? 재난 대응 드론의 통신망이 공격받는다면? AI가 운영하는 도시 인프라가 외부 공격을 받는다면? 현실에서 발생하는 문제는 더 이상 컴퓨터 화면 속 정보 유출에 그치지 않는다. 사람의 안전과 생명, 도시 기능, 국가 기반시설이 직접 영향을 받을 수 있다. 피지컬 AI 시대의 사이버 보안은 단순한 정보 보호 문제가 아니다. 현실 세계의 안전을 담보하고, 사람과 도시, 산업 시스템을 보호하는 문제다. 기존 소프트웨어 시스템의 보안은 주로 네트워크와 데이터를 중심으로 발전해왔다. 해커가 개인정보를 훔치거나, 기업 시스템을 마비시키거나, 네트워크를 공격하는 것이 주요 위협이었다. 그러나 피지컬 AI 시대에는 공격의 결과가 달라진다. AI는 현실 세계와 연결되어 있기 때문이다. 자율주행차는 도로 위에서 움직이고, 로봇은 사람과 같은 공간에서 작업하며, 스마트시티 시스템은 도시 운영에 영향을 준다. 따라서 AI 시스템에 대한 공격은 곧 물리적 피해로 이어질 수 있다. 이것이 기존 사이버 보안과 피지컬 AI 보안의 가장 큰 차이다. 기존 소프트웨어 시스템의 보안은 주로 네트워크와 데이터를 중심으로 발전해왔다. 하지만 피지컬 AI는 훨씬 복잡한 구조를 가진다. AI 모델, 센서, 카메라, 통신망, 클라우드, 제어 시스템, 물리 장치가 하나로 연결된다. 이 연결성은 AI의 강점이지만 동시에 새로운 위험 요소가 된다. 예를 들어 자율운행선박 바다환경과 상황을 인식하는 센서가 있고,판단하는 AI 모델이 있으며, 선박을 제어하는 소프트웨어가 있다. 어느 한 부분이라도 공격받으면 전체 시스템의 신뢰성이 흔들릴 수 있다. 결국 피지컬 AI의 보안은 하나의 프로그램을 지키는 문제가 아니라, AI가 현실에서 행동하는 전체 생태계를 보호하는 문제가 된다. 자율주행차는 피지컬 AI 보안 문제를 가장 직관적으로 보여주는 사례다. 자동차 산업은 이제 기계 산업이 아니라 소프트웨어 산업으로 이동하고 있다. 차량은 수많은 센서와 통신 시스템을 통해 외부 환경과 연결된다. 하지만 연결성이 높아질수록 공격 가능성도 커진다. 실제로 보안 연구자들은 자동차 시스템의 취약점을 지속적으로 연구해왔다. 차량 통신 시스템 공격, 센서 데이터 조작, 소프트웨어 취약점 공격 등은 자율주행 시대가 해결해야 할 중요한 과제다. 이제 자동차 안전 기준은 과거처럼 “브레이크가 잘 작동하는가” 만으로 충분하지 않다. 앞으로는 함께 물어야 한다. “AI 판단 과정은 정확하고 안전한가.” “외부의 공격으로부터 보호되는가.” “비정상적인 상황에서 사람이 개입할 수 있는가.” 많은 사람들은 이렇게 생각한다. “AI는 인간보다 훨씬 많은 데이터를 학습했는데 쉽게 속을 수 있는가.” 인간은 맥락과 경험을 통해 상황을 이해한다. 반면 AI는 학습한 데이터와 패턴을 기반으로 판단한다. 이 차이는 새로운 공격 가능성을 만든다. 대표적인 것이 적대적 공격(Adversarial Attack)이다. 예를 들면, AI 카메라가 도로 표지판을 인식하는 과정에서 아주 작은 패턴 변화만으로도 잘못된 판단을 할 수 있다. 사람의 눈에는 정상적인 표지판처럼 보이지만 AI에게는 전혀 다른 의미로 해석될 수 있는 것이다. 이 질문은 매우 중요하다. “인간에게 안전한 환경이 AI에게도 안전한 환경인가?” 답은 아직 그렇지 않다. AI는 인간과 다른 방식으로 세상을 인식하기 때문이다. 공장과 물류 현장에서도 비슷한 문제가 발생한다. 과거 산업용 로봇은 정해진 동작을 반복하는 기계였다. 하지만 피지컬 AI 시대의 로봇은 다르다. 주변 환경을 이해하고, 상황에 따라 행동을 변경하며, 인간과 협업한다. 대표적인 예가 휴머노이드 로봇이다. 미국과 유럽, 중국의 기업들은 인간과 함께 일하는 로봇 개발에 경쟁적으로 나서고 있다. 하지만 로봇이 똑똑해질수록 새로운 질문이 생긴다. 만약 로봇의 판단 시스템이 공격받는다면? 만약 로봇의 센서 정보가 조작된다면? 만약 로봇 운영 데이터가 변조된다면? 로봇은 단순한 소프트웨어 오류가 아니라 현실 공간에서 움직이는 위험 요소가 될 수 있다. 따라서 미래 로봇 안전 기준은 단순한 기계 안전을 넘어 AI 보안까지 포함해야 한다. 피지컬 AI의 가장 큰 변화는 도시 단위에서 나타날 것이다. 미래 도시는 수많은 AI 시스템으로 운영될 것이다. 교통 AI는 차량 흐름을 관리하고, 에너지 AI는 전력 사용을 조절하며, 재난 AI는 위험 상황을 예측한다. 하지만 질문이 필요하다. “도시를 움직이는 AI 시스템이 공격받는다면 우리는 어떻게 대응할 것인가?” 예를 들어 교통 AI가 조작된다면 특정 지역의 차량 흐름이 마비될 수 있다. 재난 대응 AI가 잘못된 정보를 받는다면 시민 안전에 영향을 줄 수 있다. 스마트시티는 편리한 도시가 아니라, 신뢰할 수 있는 도시여야 한다. 이러한 위험 때문에 국제사회는 AI 안전과 보안을 새로운 거버넌스 과제로 다루고 있다. 개발과 설계 단계부터 안전을 고려하고, AI 시스템의 위험관리 체계 구축하는 것이 대표적이다. AI 안전과 책임은 선택 사항이 아니라 국제 경쟁력의 조건이 되고 있다. 그렇다면 대한민국은 무엇을 준비해야 하는가? 대한민국은 피지컬 AI 시대에서 중요한 위치에 있다. 세계적인 반도체 산업, 자동차 제조 역량, 세계1위의 조선 산업, 우수한 ICT 인프라,를 보유하고 있다. 하지만 기술 경쟁력만으로는 충분하지 않다. 앞으로 글로벌 시장에서 인정받기 위해서는 우리는 AI를 안전하게 운영할 수 있음을 증명해야 한다. 특히 자율운항선박, 스마트항만, AI 도시 분야에서 국제 기준에 맞는 안전 체계를 구축하는 것이 중요하다. 피지컬 AI는 이미 현실로 나왔다. 이제 남은 과제는 하나다. 기술의 속도를 따라갈 수 있는 사회적 안전망을 만드는 것. 피지컬 AI 시대의 핵심은 '신뢰 가능한 연결'이다. 인터넷은 세상을 연결했다. 하지만 연결만으로는 충분하지 않았다. 안전한 연결을 위해 보안 체계와 국제 규칙이 필요했다. AI 역시 마찬가지다. 피지컬 AI 시대는 AI를 현실과 연결하는 시대다. 그렇다면 우리는 이제 새로운 질문에 답해야 한다. “AI가 연결된 현실을 얼마나 안전하게 지킬 것인가.” 앞으로의 AI 경쟁은 알고리즘 성능 경쟁이 아니다. 신뢰 경쟁이다. 안전한 AI, 보안 가능한 AI, 설명 가능한 AI를 만드는 국가와 기업이 미래를 주도하게 될 것이다. -이수영 AI정책과입법연구소장
