[ITNews] 2024년 3월 첫째 주

마이크로소프트와 오픈AI, 생성형 AI 기반 해킹 대응에 나서다

오픈AI의 챗GPT나 마이크로소프트의 코파일럿 같은 생성형 AI의 악용 가능성 중 가장 큰 우려를 불러일으키는 것은 탐지하기 어려운 악성 코드 개발에 사용될 수 있다는 점이다. 러시아, 이란, 북한 같은 국가가 적대국가에 사이버 공격을 감행할 때 생성형 AI를 활용할 수도 있다는 지적도 있다.

나쁜 소식은 이 우려가 이미 현실이 되었다는 것이다. 다행히 지금까지 특별히 위험하거나 효과적인 공격은 없었다. 더 좋은 소식은 마이크로소프트와 오픈AI가 이 악용 가능성을 심각하게 받아들이고 있다는 점이다. 이들 기업은 공격을 공개적으로 설명하고 대응 조치를 공유하는 등 투명한 태도로 대응하고 있다.
 

AI 해킹은 아직 초기 단계다. 그러나 생성형 AI가 정교한 악성코드를 만들 수는 없어도, 스피어 피싱 같은 사회공학적 기법이나 비밀번호∙신원 도용으로 보안이 강화된 시스템에 침입하는 기존 기법에 효과를 더할 수는 있다.
 

지금까지의 생성형 AI 공격

마이크로소프트와 오픈AI는 최근 생성형 AI로 만들어진 공격이 급증하고 있다며 대응 방법을 상세히 설명했다. (이 공격은 마이크로소프트 코파일럿의 기반이기도 한 오픈AI의 챗GPT로 이루어졌고, 마이크로소프트는 오픈AI에 130억 달러를 투자했다.)

오픈AI는 중국의 차콜 타이푼, 샐먼 타이푼, 이란의 크림슨 샌드스톰, 북한의 에메랄드 슬릿, 러시아의 포레스트 블리자드 등 국가와 연관이 있는 악성 행위자 5곳의 해킹 시도를 차단했다고 설명했다. 이 악성 행위자 단체는 오픈소스 정보 쿼리, 번역, 코딩 오류 찾기, 기본 코딩 작업 실행에 오픈AI 서비스를 사용한 것으로 알려졌다.

오픈AI는 공격자 양상이 상당히 다양하다고 밝혔다. 예를 들어 차콜 타이푼은 “다양한 기업과 사이버 보안 도구 조사, 코드 디버깅, 스크립트 생성, 피싱 캠페인용 콘텐츠 제작” 등에 오픈AI 서비스를 사용했다. 포레스트 블리자드는 위성 통신 프로토콜과 레이더 이미징 기술에 대한 오픈소스 연구와 스크립팅 작업 지원에 오픈AI 서비스를 사용했다. 크림슨 샌드스톰은 앱과 웹 개발에 관련된 스크립팅 지원, 스피어 피싱 캠페인용 콘텐츠 생성, 악성코드가 탐지를 회피하는 방법 연구에 사용했다.

그러나 아직까지 강력한 코딩, 탐지를 우회하는 새로운 기술, 진지한 수준의 발전은 관찰되지 않았다. 오픈AI 도구는 주로 기존 악성코드와 해킹 캠페인을 지원하는 과정에 사용됐다.

오픈AI는 “행위자 단체의 활동은 외부 사이버 보안 전문가와 협력해 실시한 기존 레드팀 테스트 결과와 일치한다. GPT-4는 이미 공개돼 있는 비AI 기반 도구로 가능한 수준을 넘어서는 악성 사이버 보안 공격에 제한적이고 점진적인 기능만 제공한다”라고 결론지었다.

 

 

원문보기:
마이크로소프트와 오픈AI, 생성형 AI 기반 해킹 대응에 나서다 - ITWorld Korea

마이크로소프트와 오픈AI, 생성형 AI 기반 해킹 대응에 나서다

---

 

레드햇, KDDI에 5G 서비스 위한 개방형 플랫폼 구축 지원

레드햇은 일본 통신업체 KDDI의 5G 코어 등 모바일 네트워크 서비스를 위한 개방형 표준 플랫폼 구축을 지원한다고 발표했다.
 

KDDI는 쿠버네티스로 구동되는 하이브리드 클라우드 플랫폼 레드햇 오픈시프트(Red Hat OpenShift)와 레드햇 오픈스택 플랫폼(Red Hat OpenStack) 및 레드햇 앤서블 자동화 플랫폼(Red Hat Automation Platform)을 이용해 진화하는 시장 수요를 충족할 수 있는 새로운 서비스와 애플리케이션을 보다 빠르고 유연하게 개발 및 배포할 수 있게 되었다.

5G 코어는 네트워크 슬라이싱과 추가적인 초저지연 서비스 및 애플리케이션 구동을 지원한다. KDDI의 새 플랫폼은 더 높은 대역폭과 향상된 안정성을 제공할 수 있어 이러한 서비스에 최적화될 예정이다. 또한 LTE, 유선 음성 서비스 및 부가 가치 서비스와 같은 기존 워크로드를 호스팅할 수 있다. 

레드햇과의 협력을 통해 KDDI는 코어에서 엣지까지 전체 플랫폼에 걸친 통합 멀티 테넌트(tenant) 관리 및 레거시 워크로드에서 클라우드 네이티브까지의 지원을 통해 보다 효율적이고 통합된 운영을 지원한다.

레드햇 오픈시프트와 레드햇 오픈스택 플랫폼을 통해 네트워크에서 가상 네트워크 기능(VNF)과 클라우드 네이티브 네트워크 기능(CNF)을 병행 실행할 수 있어, 코어에서 엣지까지 복원력 및 운영 일관성을 향상시킨다고 업체 측은 설명했다. 

이외에도 ▲네트워크 애플리케이션 배포의 유연성 및 민첩성 향상 ▲필요에 따른 동적 확장 통한 운영 비용 절감 ▲자동화 및 제로 터치 프로비저닝을 통한 멀티벤더 5G 핵심 워크로드의 관리 용이성 확보 및 업그레이드 속도 향상 등을 기대하고 있다. 

레드햇과 KDDI는 모든 네트워크 환경에서 5G 및 엣지 워크로드를 가속화하기 위해 다양한 파트너 에코시스템을 통해 협력하고, 새로운 서비스를 위한 혁신과 신속한 배포를 추진하고 있다. KDDI는 오픈소스 리더로서의 오랜 역사를 지닌 레드햇이 제공하는 방대한 에코시스템을 바탕으로 파트너와 함께 개방형 클라우드 네이티브의 혁신을 이끌고 차세대 5G 서비스를 촉진하기 위한 새로운 기술을 활용할 수 있게 될 예정이다. 레드햇과 KDDI는 향후 수 개월 내에 이러한 플랫폼 설계에 대해 신규 백서를 발표할 계획이다.

레드햇 오노레 라보뎃 통신, 미디어, 엔터테인먼트 및 에코시스템 부사장은 “현재 업계는 확실히 개방형 하이브리드 클라우드 접근 방식으로 전환하고 있으며, 레드햇은 이러한 추세 속에서 고객을 지원할 수 있는 준비를 갖추고 있다”며, “KDDI는 레드햇의 개방형 표준 플랫폼을 통해 새로운 서비스와 애플리케이션 및 수익원을 확장하여 5G와 그 너머의 비즈니스를 추진할 수 있다”고 말했다.

 

원문보기:
레드햇, KDDI에 5G 서비스 위한 개방형 플랫폼 구축 지원 - ITWorld Korea

레드햇, KDDI에 5G 서비스 위한 개방형 플랫폼 구축 지원

 

---

 

“챗GPT, 개발직 지원자가 비개발 직군보다 최대 8배 이상 사용” 무하유

무하유가 지난해 하반기 자사 AI 서류평가 솔루션 ‘프리즘’에서 ‘GPT킬러’ 기능을 활용해 평가된 자기소개서의 데이터 분석 결과를 공개했다.
 

GPT킬러는 무하유가 선보인 디텍트 GPT(Detect GPT) 솔루션으로, 지난 12년간 AI 표절검사 서비스인 카피킬러를 운영하며 축적한 문서 데이터와 한국어 NLU(Natural Language Understanding) 노하우를 접목했다. 프리즘으로 자기소개서를 검토하는 과정에서 챗GPT로 작성됐다고 의심되는 부분이 있을 경우, GPT킬러가 해당 내용을 알려줌으써 채용 담당자는 보다 정확하게 지원자를 평가할 수 있다. 기업 인사담당자는 프리즘 이용 시 GPT 킬러 활용 여부를 선택할 수 있다.

2023년 하반기 프리즘을 통해 분석된 자기소개서 중 GPT 킬러 기능을 활용한 데이터는 총 26만 7,585건으로, 공공·금융·일반 기업 등 다양한 기관 및 기업 고객이 활용한 것으로 나타났다.
 

조사 결과, 공공·금융 기관보다 일반 기업 지원자들이 자기소개서 작성 시 챗GPT를 더 많이 사용한 것으로 확인됐다. 일반 기업에서 챗GPT를 사용한 것으로 의심되는 자기소개서는 전체 중 11.81%였으며, 금융기관 7.12%, 공공기관 7.02% 순이었다.

또한 개발 직군 지원자가 비개발 직군 지원자보다 자기소개서 작성에 챗GPT를 사용하는 비중이 더 높았다. 동일 기업에서 개발 직군과 비개발 직군을 동시에 채용하는 경우, 같은 자기소개서 문항에 대해 개발 직군이 최소 1.5배에서 최대 8배까지 챗GPT를 더 많이 활용 중인 것으로 나타났다. 전산, 데이터분석, 정보 보호 등 개발 직군이 아니더라도 IT 툴에 익숙한 IT 전문가 직군이 비전문가 직군에 비해 챗GPT 사용 비중이 더 높았다.

자기소개서 문항 중 실제 경험이나 사례를 묻는 질문보다 추상적인 내용을 묻는 질문에 챗GPT를 사용하는 비율이 더 높았다. 일반적인 질문에 대한 챗GPT 사용 비율은 평균 3% 내외였으나, 미래에 대한 지원자의 생각이나 삶의 가치관 등을 묻는 질문에는 33.7%가 챗GPT를 활용한 것으로 나타났다.

무하유는 자기소개서 분석 데이터를 통해 챗GPT가 작성한 자기소개서의 보편적인 특징도 공개했다. ‘첫째, 둘째, 셋째’와 같이 문단 앞에 순서를 매겨 구조화하는 경우가 많았으며, 문장 간 줄 바꿈이 잦았다. 또 챗GPT는 개개인의 구체적인 경험을 생성하는 데 한계가 있기 때문에 객관적인 사실 관계가 자주 등장하는 것으로 나타났다.

무하유 비즈니스 유닛의 신현호 프로는 “자기소개서는 회사 생활에 필요한 기본적인 작문 능력은 물론, 지원자가 입사 지원을 위해 얼마나 성심성의껏 준비했는지를 확인할 수 있는 최소한의 수단”이라며, “기업 인사담당자는 챗GPT를 활용했다고 의심되는 자기소개서에 대해 면접 전형에서 심층 질문을 통해 실제 본인이 작성했는지 확인해 볼 수 있다”라고 설명했다.

 

원문보기:
“챗GPT, 개발직 지원자가 비개발 직군보다 최대 8배 이상 사용” 무하유 - ITWorld Korea

“챗GPT, 개발직 지원자가 비개발 직군보다 최대 8배 이상 사용” 무하유

 

---