SBS Biz

[코드게이트 (한컴 제공=연합뉴스)]

장먀오 화웨이 사이버보안 신뢰 구축 총괄은 "인공지능(AI)이 인간의 통제를 넘는 수준에 이를 것"이라며 "인간의 삶이 AI의 영향력 아래 있는 디지털 세계에서도 이어지는 만큼 AI 보안이 더욱 중요해질 전망"이라고 진단했습니다.

장 총괄은 17일 서울 코엑스 그랜드볼룸에서 열린 '국제해킹방어대회 & 보안 콘퍼런스 코드게이트 2025' 기조 강연에서 이같이 밝혔습니다.

장 총괄은 '젠(GEN) AI 시대를 위한 사이버 보안 거버넌스 프레임워크 구축'을 주제로 기조 강연을 했는데, AI 보안의 중요성을 언급하며 "물리적 세계와 디지털 세계가 연결되고 있는 만큼 (그 둘을) 매핑(데이터 분석)하는 게 중요하다"며 "개인의 안전은 물리적 세계뿐만 아니라 디지털 세계와도 이어져 AI 보안이 더욱 중요해질 것"이라고 말했습니다.

장 총괄에 따르면 AI 보안 위협은 크게 컴퓨터에 대한 공격, AI 모델에 대한 공격, AI 프롬프트에 대한 공격 등 3가지로 분류되는데, AI 보안을 위한 화웨이의 노력으로는 AI 서비스의 취약점을 파악하고 AI 거버넌스를 구축하는 일을 꼽았습니다.

장 총괄은 "매일 화웨이 팀에서 글로벌 사이버 보안 문제는 없는지, 고객이 AI 서비스를 사용했을 때 취약점은 없는지 파악한다"며 "AI 관련 프로세스를 확립하기 위해 AI 관련 취약점이나 리스크가 발견됐을 때 이를 경감할 방법을 찾는다"고 설명했습니다.