“우리는 모두 인공지능(AI) 1세대다.” 

현재 상황 지칭하는 말이다. AI가 연구된 지는 꽤 오래됐지만, 이 기술을 실질적으로 활용하기 시작한 세대는 현재 세대부터라는 뜻을 담고 있다. 머신러닝과 같은 기존 기술은 제조 등 각 산업에 쓰이긴 했지만, 챗GPT와 같은 서비스를 누구나 쉽게 활용할 수 있었던 시기는 지금부터라고 볼 수 있다.

AI 활용이 처음인 만큼, 1세대에선 기대와 우려가 공존한다. AI로 업무 효율성과 생산성이 크게 높아질 수 있단 기대도 있지만, AI를 활용했을 때 만족할 만한 성과를 얻을 수 있을지 보안 우려는 없는지 등에 관한 걱정도 있다. 특히 챗GPT와 같은 생성형 AI가 등장한 후 기업 내 정보 유출에 대한 우려가 커졌다. 챗GPT에 회사 내 정보를 입력하거나 관련 파일을 업로드하게 되면 기밀 사항이 유출될 가능성이 있어서다.

이 문제를 줄이기 위해 AI 업계에선 기업에서 사용할 수 있는 소형언어모델(sLLM)과 같은 서비스를 출시하고 있다. 검색증강생성(RAG) 기술을 탑재해 할루시네이션(환각) 현상을 줄이면서 기업 내 자료를 보호할 수 있는 보안성을 갖춘 모델을 제공한다. 이와 별개로 보안 기업들은 기업 자료를 보호하면서 유출됐을 경우 이를 추적할 수 있는 기술을 개발하고 있다.

10일부터 사흘간 부산 벡스코 2전시장에서 열린 ‘2024 K-ICT Week in 부산’에서도 이와 유사한 보안 기술을 볼 수 있었다. 엑소스피어랩스는 이번 전시회에서 ‘엑스스피어’란 보안 프로그램을 선보였다. 하나의 프로그램에서 개인 정보 보호부터 실시간 검사, 암호화 보호, 파일 반출 제어 등 보안 기술을 제공하는 올인원 솔루션이다. 외부에서 데이터를 유출을 시도하는 경우 차단하는 것도 가능하다. USB 등 디바이스 연결을 차단할 수 있고, 파일 전송 등도 사전에 막을 수 있다.

엑소스피어랩스는 이를 넘어 챗GPT와 같은 생성형 AI로 파일이 유출되는 기술도 개발했다. 회사에서 챗GPT 사이트에 접근하는 것을 아예 차단하거나 직원이 파일을 사이트에 업로드했을 때 어떤 PC에서 어떤 파일을 올렸는지 추적할 수 있는 기술을 만들었다. 이를 토대로 민감한 내용을 다루는 직원의 PC에선 챗GPT 접속을 막아 정보 유출 위험을 사전에 차단할 수 있고, 부득이하게 파일이 올라갔으면 이를 추적할 수 있게 해 사후 조치할 수 있는 기반을 만든 것이다.

회사 관계자는 “챗GPT 등 생성형 AI에는 최근 파일을 업로드하게 되면서 내부 정보가 유출될 위험이 있는데, 이를 추적할 수 있는 시스템을 만들었다”며 “누가, 어떤 사이트에서, 어떤 자료를 올렸는지를 다 추적할 수 있다”고 밝혔다. 이어 “우리 솔루션은 단순히 정보 유출뿐 아니라 랜섬웨어 공격 등도 하나의 프로그램에서 방지할 수 있어 AI 시대 기업 보안을 높일 수 있다”고 설명했다.

출처 : [K-ICT Week in 부산] 생성형 AI로 인한 정보 유출, 보안 프로그램이 감시-디지틀조선일보(디조닷컴 dizzo.com)