[보안뉴스]_[IGLOO]_GPT의 밝고도 어두운 이면

https://www.igloo.co.kr/security-information/gpt%ec%9d%98-%eb%b0%9d%ea%b3%a0%eb%8f%84-%ec%96%b4%eb%91%90%ec%9a%b4-%ec%9d%b4%eb%a9%b4/

GPT의 밝고도 어두운 이면

---

오픈AI의 최신 대규모 언어 모델 GPT-4의 등장이 사회에 미치는 영향과, ChatGPT의 확산으로 인해 발생 가능한 어두운 이면에 대해 다루고 있다.

 

01. 오픈AI의 GPT-4가 미치는 영향

1. 오픈AI의 GPT-4

오픈AI의 새로운 대규모 언어 모델(LLM) 'GPT-4'가 공개되었다. 독일 MS의 CTO 안드레이스 브라운은  문자뿐만 아니라 음성, 이미지, 영상을 이해·생성할 수 있는 '멀티모델' 이라고 설명했다. 이는 택스트만 이해, 생성했던 GPT-3.5와의 가장 큰 차이점이다. 이와 관련해 샘 알트만 CEO는 "이번 버전은 멀티모달 기능으로 인해 기존보다 더 다양한 프롬프트를 이해할 수 있다.”라며, “전보다 창의성 높은 결과물을 만든다.”라고 밝혔다.

GPT-4 관련 이미지 (출처 : 오픈AI)

• GPT-4는 GPT3-5 대비 단어 처리 성능이 대폭 강화됐다.
  • 처리할 수 있는 단어 수가 기존 대비 8배 이상 증가한 6만 4,000 단어 이상을 한 번에 기억하고 이해, 지원하는 언어 또한 26개 국어로 증가했다.
  • 환각 현상이 대폭 개선됐다. ( GPT-4는 의료 등 전문적인 질문에 대해 이전보다 29% 더 정확한 답을 제공할 수 있으며, 비윤리적인 질문에 응답할 가능성은 82% 더 줄어들었다.

 

 2. 인간의 'AI 부조종사'로 부상한 GPT-4

• GPT-3.5와 비교해 GPT-4가 가진 장점은 크게 정확성과 확장성을 꼽을 수 있다.
• 더욱 높은 정확성으로 어렵고 애매한 문제와 질문에 대한 풀이 능력이 향상됐고 이미지 처리 능력도 추가되었다

=> 다양한 산업 군에서는 이를 자사 서비스에 적용하기 위한 움직임이 빠르게 나타나고 있다.

 

2.1. MS 브라우저 '빙(Bing)'

• 오픈AI의 지분 49%를 보유한 MS는 다양한 기업 가운데 GPT를 가장 빠르게 자사 서비스에 접목시키고 있다.
• 빙은 엣지의 사이드바 맨 위에 푸른색 로고 형식의 단추로 표시되는데, 해당 단추를 누르면 화면 오른쪽에 채팅창이 열린다.
• GPT-4가 탑재된 MS의 빙을 통해 사용자들은 앞으로 개인에게 최적화된 검색, 챗봇, 콘텐츠 생성 기능 등을 누릴 수 있게 됐다.
• MS의 ‘빙 이미지 크리에이터(Bing Image Creator)’는 오픈AI의 이미지 생성 AI ‘달리(DALL-E)’를 기반으로 자연어 프롬프트에 이미지를 생성해 주는 기능으로, SNS나 PPT 등에 필요한 이미지를 바로 만들 수 있다.

2.2. GPT-4 적용된 MS 오피스, 'MS 365 Copilot'

• MS 365 애플리케이션에 GPT-4 기반의 ‘코파일럿(Copilot)’ 기술을 적용한 ‘MS 365 코파일럿(이하 코파일럿)’을 공개하였다.
• 코파일럿은 챗GPT와 유사하게 간단한 명령어 입력만으로 결과물을 얻을 수 있으며, 기업 사용자를 위한 '비즈니스 챗(Business Chat)' 형태로 제공한다.

2.3 MS의 '시큐리티 코파일럿(Security Copilot)'

• 검색과 업무뿐만 아니라 보안의 영역에도 GPT-4가 접목되고 있다.
• MS는 MS의 위협 인텔리전스와 전문 지식을 GPT-4와 접목시킨 AI 보안 비서 ‘시큐리티 코파일럿(Security Copilot)’을 공개했다.
• 시큐리티 코파일럿은 방어자가 보안 환경의 상황을 파악하고 기존 인텔리전스를 학습하거나 위협 활동의 상관관계를 이해하는 등, 보다 많은 정보에 기반한 효율적인 의사결정을 내리는 데 활용되도록 설계됐다.

 

3. 국내 생태계에 큰 영향을 미치는 GPT-4

• GPT-4의 공개와 함께 챗GPT에 GPT-4가 적용되는 등, AI 서비스에 대한 대중들의 관심은 더욱 증가하고 있다.
• 이러한 흐름에 맞춰 국내 기업들도 챗GPT나 GPT-4 등을 자사 서비스에 연동해 다양한 AI 서비스를 내놓고 있다. 대표적으로 이글루코퍼레이션은 국내 최초로 챗GPT를 연계한 AI 보안 서비스인 ‘이글루XAI(가칭)’를 선보였다.

 

02. Chat GPT에서 발생한 다양한 이슈

1. Chat GPT에서 발생한 정보유출 사고

• 일부 사용자에게 다른 사람의 대화 히스토리가 노출되는 민감정보 유출 사고가 발생했다.
• 챗GPT와 사용자가 나누어 왔던 대화를 타인이 열람할 수 있게 된다는 것은 프라이버시 및 정보 침해로 이어질 수 있는데, 다행히도 대화 내용은 노출되지 않았다.
• 해당 사고는 챗GPT의 오픈소스 라이브러리 버그로 인해 발생했으며, 오픈AI는 이를 확인 직후 서비스를 중단시켰다.

 

• 사용자 결제 정보 유출 :  오픈AI는 "지난 20일, 챗GPT를 오프라인으로 전환하기 전 몇 시간 동안 일부 사용자가 다른 활성 사용자의 이름과 성, 이메일 주소, 결제 주소. 신용카드 번호의 마지막 네 자리, 신용카드 만료일을 볼 수 있었다."라며 "전체 신용카드 번호는 어떤 경우에도 노출되지 않았다.”라고 밝혔다.

 

2. 민감정보 유출 우려에 Chat GPT 단속하는 기업들

• 챗GPT 사용자가 기하급수적으로 증가하며 이를 실제 업무에 활용하는 인원 또한 증가했다. 다만 최근 챗GPT에서 민감정보 유출 사고가 연속적으로 발생함에 따라, 이를 우려하는 기업들의 목소리가 커지고 있는 상황이다.
• 일부 국내외 기업들은 사내 이용 금지령을 내리거나 별도의 활용 지침을 제시하고 있는 상황이다.

• 삼성전자 반도체(DS) 부문에서는 지난 3월 11일부로 사내 챗GPT 사용을 허가했다.
• 삼성전자 DS 부문의 챗GPT 사용 허가는 기술적 변화를 임직원 모두가 인식할 필요성이 제기된 데 따른 조치다. 회사는 다만 챗GPT 사용을 허가하며 임직원을 대상으로 “사내 정보 보안에 주의하고 사적인 내용을 입력하지 말라.”라는 공지를 내리기도 했다.
• 그러나 삼성전자 DS 부문이 챗GPT를 허용한 지 20일도 지나지 않아 우려하던 ‘사내 정보 유출’ 사고가 발생했다.

• 포스코의 경우 정보 유출 가능성을 사전에 차단하기 위해 내부 인트라넷을 통해서만 챗GPT를 활용하게 했으며, SK하이닉스는 사내망에서 챗GPT 사용을 금지했다. 

 

• 해외에서는 이미 챗GPT에 정보를 입력하면 AI가 이를 학습해 불특정 다수에게 유출될 수 있다는 점을 우려해 사용을 제한하는 기업이 많다.
• 아마존과 함께 MS 조차도 임직원에게 민감한 정보를 챗GPT에 공유하지 말라고 경고했으며, 월마트(Walmart)는 지난 2월, 챗GPT의 사내 접속을 막았다가 사용 지침을 만든 뒤 이를 해제했다.

 

3. 국가 차원의 Chat GPT 차단 움직임

• 단지 기업뿐만 아니라 국가 차원에서 챗GPT를 금지시킨 국가들도 존재한다.
  • 중국, 북한, 이란, 러시아, 아프리카 일부 국가에서는 자국 산업 보호와 더불어 정치적인 이유 등으로 인해 챗GPT 사용을 금지시켜왔다. 
• 이탈리아 데이터 보호청(DPA)은 개인정보 보호를 위해 자국 내 챗GPT 접속을 차단하고 오픈AI가 유럽연합(EU)의 ‘일반 개인정보 보호 규정(GDPR)’을 준수했는지 조사하겠다고 발표했다. 
• 영국 정보위원회(ICO)는 “AI 발전을 지원하는 것과 별개로 데이터 보호법 위반에 대해 이의를 제기할 준비가 됐다.”라고 발언했으며, 비(非) 유럽권 국가인 캐나다도 이탈리아와 같은 이유로 챗GPT에 대한 수사에 착수했다.