[ITNews] 2024년 5월 둘째 주

팔로알토 네트웍스, 실시간 생성형 AI 접목한 보안 솔루션 ‘프리시전 AI’ 출시

팔로알토 네트웍스의 새로운 혁신이 담긴 자체 기술인 ‘프리시전 AI(Precision AI)’는 ML 및 딥러닝의 장점과 실시간 생성형 AI의 접근성을 결합했다. 이를 통해 다양한 기업과 기관은 공격자보다 한발 앞서 네트워크와 인프라를 보다 선제적으로 보호하는 AI 기반 보안을 마련할 수 있다.

팔로알토 네트웍스 회장 겸 CEO 니케시 아로라는 "서로 다른 프로세스와 솔루션을 빠르게 이동하며 커넥티드 플랫폼의 이점을 활용하는 것이 중요하다. 단순한 기술 스택 이상의 커넥티드 플랫폼은 비즈니스 매커니즘의 핵심 요소이자 성공의 원동력이 된다. 이를 위해 플랫폼화 접근이 필요하다. AI를 보호하고 활성화할 수 있는 통합 솔루션은 성과를 달성하는 데 필수적이다. 팔로알토 네트웍스의 프리시전 AI는 방어자가 공격자보다 앞서가게끔 하는 보안의 새로운 패러다임을 창출할 게임 체인저다"라고 설명했다.

팔로알토 네트웍스는 스트라타(Strata), 프리즈마(Prisma), 코어텍스(Cortex) 등 자사 플랫폼 전반에 걸쳐 프리시전 AI를 적용해 주요 사용례에 대한 새로운 기능을 제공한다.

AI에 AI로 대응 : AI의 악의적인 사용과 관련된 잠재적인 부정적인 영향 또는 위험에 대응하기 위해 AI 기반 보안 조치를 사용하는 전략이다. 
 

• 프리시전 AI 시큐리티 번들(Precision AI Security Bundle)은 어드밴스드 URL 필터링, 고급형 선제 방어, 어드밴스드 와일드파이어(WildFire) 및 어드밴스드 DNS 시큐리티로 구성된 고급형 보안 서비스를 제공한다. 인라인 AI를 활용하여 정교한 웹 기반의 공격, 제로데이 공격, 우회방식의 커맨드 앤 컨트롤 공격, DNS 하이재킹 공격을 방어한다. 

AI 보안을 위한 설계 : AI 보안 프레임워크의 무결성을 우선순위에 두고, 컴플라이언스를 향상시키며, 개발 초기 단계부터 배포까지 데이터 노출을 최소화하는 안전한 AI 에코시스템을 구축한다.
 

• AI 액세스 시큐리티(AI Access Security)는 조직 내에서 구성원들이 안심하고 AI 도구를 사용할 수 있도록 지원하며, 보안 팀이 완전한 가시성, 강력한 제어, 데이터 보호 및 선제적 위협 방지 조치를 취할 수 있도록 돕는다.
• 프리즈마 클라우드 AI 보안 태세 관리(Prisma AI-SPM)는 취약성을 식별하고 모델, 애플리케이션, 리소스의 잘못된 구성의 우선순위를 지정하여 AI 에코시스템을 보호한다. 컴플라이언스를 개선하고 데이터 노출을 최소화하여 AI 보안 프레임워크의 무결성을 확보한다. 
• AI 런타임 시큐리티(AI Runtime Security)는 전체 AI 앱 에코시스템을 보호하고 프롬프트 인젝션, 모델 DoS, 안전하지 않은 출력 파일 등과 같은 런타임 위협으로부터 보호하여, 안전한 환경에서 AI 기반 앱을 구축할 수 있도록 지원한다. 
• 새로운 AI 기반 코드-투-클라우드(Code to Cloud) 기능을 통해 AI 공격 경로 및 영향 범위(blast radius) 분석, 복잡한 위험, 초기 익스플로잇에서 위험이 확산될 수 있는 잠재적 침해 경로 및 신속한 해결 단계를 파악하는 위험 완화 가이드를 제공한다.

AI를 통한 보안 간소화 : 팔로알토 네트웍스의 세 가지 플랫폼에서 ‘프리시전 AI’로 구동되는 코파일럿을 통해 보안을 간소화하고, 실질적인 자율 보안 운영을 가능케 한다.
 

• 컨텍스트 중심 : 사용자 의도의 정확한 이해
• 실행 가능 : 사용자 작업 수행 및 자동화
• 사전 예방적 : 표면 경고 및 모범 사례 제공
• 지원 : 제품 내 지원 및 티켓 생성 워크플로우 제공

딜로이트는 AI 사이버보안 시장이 2032년까지 1,278억 달러에 달할 것으로 예측했다. AI가 기업에게 큰 도움이 되는 한편 공격자들에게도 중요한 수단이 되고 있는데, 특히 우회적이고 고유한 특성을 가져 전통적인 보안 솔루션으로는 탐지할 수 없는 제로데이 공격에 널리 활용되고 있다. 이는 수치로 증명되고 있으며, 실제로 팔로알토 네트웍스는 매일 평균 230만 건의 새로운 고유 위협을 발견하는 한편 하루 평균 113억 건의 위협을 인라인으로 차단하고 있다. 

 

#요약

팔로알토 네트웍스는 AI로 생성된 공격을 차단하고, 설계에서부터 AI를 효과적으로 보호할 수 있도록 지원하는 새로운 보안 솔루션을 10일 공개했다. 이 솔루션은 ML 및 딥러닝의 장점과 실시간 생성형 AI의 접근성을 결합하였고, 이를 통해 다양한 기업과 기관은 공격자보다 한발 앞서 네트워크와 인프라를 보다 선제적으로 보호하는 AI 기반 보안을 마련할 수 있다.

 

 

 

원문보기:

팔로알토 네트웍스, 실시간 생성형 AI 접목한 보안 솔루션 ‘프리시전 AI’ 출시 - ITWorld Korea

팔로알토 네트웍스, 실시간 생성형 AI 접목한 보안 솔루션 ‘프리시전 AI’ 출시

 

 

---

오픈AI, 책임감 있는 AI 형성 위한 프레임워크 ‘모델 스펙’ 공개

오픈AI는 블로그에서 "모델 행동을 형성하는 실질적인 선택 사항을 이해하고 논의할 수 있어야 한다는 생각에 모델 스펙을 제작했다. 모델 스펙에는 오픈AI에서 쌓아 온 기록 문서와 모델 행동 설계에 대한 연구 및 경험, 그리고 향후 모델 개발에 제공하기 위해 진행 중인 작업이 반영돼 있다. 모델 스펙은 사람의 입력을 통해 모델 행동을 개선하려는 지속적인 노력의 연속이며, 모델 안전을 조성하기 위한 집단적이고 조직적인 접근 방식을 보완한다"라고 설명했다. 

모델 행동은 AI 모델이 사용자 입력에 반응하는 방식이다. 어조, 성격, 응답 길이 등 다양한 측면을 포괄하며, AI와 인간의 상호 작용에서 중요한 역할을 한다. 하지만 모델은 다양한 데이터 세트를 학습하고 상충하는 목표에 직면할 수 있기 때문에 행동을 형성하는 것은 복잡한 작업이다. 오픈AI는 모델이 명시적으로 프로그래밍되지 않고 광범위한 데이터에서 학습하므로 이런 행동을 형성하는 것은 아직 초기 단계의 과학이라고 말했다. 

책임감 있는 AI를 형성하는 3단계 접근 방식

모델 스펙 문서 초안은 원하는 AI 행동을 형성하기 위한 3가지 접근 방식을 다룬다. 블로그에 따르면, 문서에는 "원하는 모델 행동"과 "충돌이 발생할 때" 오픈AI가 트레이드오프를 평가하는 방법이 명시돼 있다. 

모델 스펙의 첫 번째 부분은 핵심 목표에 초점을 맞춘다. 사용자의 목표 달성 지원, 인류에 대한 혜택, 오픈AI에 대한 긍정적 반영 등 모델 행동을 안내하는 광범위한 원칙이다. 이런 기본 원칙은 또한 모델 행동이 "사회적 규범과 관련 법률"을 준수하도록 요구한다. 

이런 광범위한 목표 외에도 모델 스펙은 "규칙"이라고 부르는 명확한 지침도 제공한다. 이런 규칙은 복잡한 상황을 해결하고 AI 작업의 "안전과 적법성을 보장"하기 위해 고안됐다. 대표적인 요소는 사용자의 지시 준수, 법률 준수, 정보 위험 생성 방지, 사용자 권리 및 개인정보 존중, 부적절하거나 업무상 안전하지 않은(not safe for work, NSFW) 콘텐츠 생성 방지 등이다. 

마지막으로, 모델 스펙은 목표와 규정이 "충돌"하는 상황이 있을 수 있음을 인정한다. 이런 복잡성을 해결하기 위해 문서에는 AI 모델이 따라야 할 기본 동작을 제안한다. 최선의 의도를 가정하고, 경계를 "넘지" 않고 도움을 주며, 존중하는 상호 작용을 장려하는 것 등이다. 

리서치 및 컨설팅 기업 카운터포인트 리서치(Counterpoint Research)의 리서치 부사장 닐 샤는 모델 스펙에서 제시하는 것이 "모델이 이상적으로 가야 할 방향이며, 오픈AI가 더 큰 맥락과 개인화를 통해 사용자에 따라 모델이 어떻게 행동해야 하는지에 대한 새로운 노력을 하고 있다"라고 말했다. 

"살아있는 문서"

오픈AI는 블로그 게시물에서 모델 스펙을 "살아있는 문서"라고 표현했다. 개방적으로 피드백을 받고 발전하는 AI 분야와 함께 진화하고 있음을 의미한다. 

모델 스펙을 자세히 설명하는 오픈AI의 또 다른 문서는 "오픈AI의 의도는 연구자와 데이터 라벨러가 인간 피드백을 통한 강화 학습(learning from human feedback, RLHF)이라는 기술의 일부로 데이터를 생성하는 데 모델 스펙 지침을 사용하는 것이다. 모델 자체와 마찬가지로 모델 스펙은 공유와 이해관계자의 피드백을 통해 학습한 내용을 바탕으로 지속해서 업데이트될 것"이라고 설명했다. 

샤는 "RLHF는 모델이 인간의 실제 행동에 더 잘 부합하도록 조정할 뿐 아니라 설정된 목표, 원칙 및 규칙을 통해 모델을 투명하게 만드는 방법을 주도할 것이다. 오픈AI 모델이 한 단계 발전하고 더 책임감 있고 유용해지는 데 도움이 된다. 물론 쿼리가 해석되는 방식과 최종 목표에 대한 회색 지대가 많고, 쿼리와 응답의 책임감이 떨어지는지 감지할 정도로 지능적인 모델이 되어야 하므로 이런 목표 역시 끊임 없이 움직일 것이다"라고 말했다.

 

 

#요약

오픈AI가 책임감 있는 AI 개발을 위해 '모델 스펙(Model Spec)' 초안을 공개했다. 이는 AI 모델이 어떻게 행동해야 하는지 안내하는 프레임워크로, 사용자의 목표 달성 지원부터 법률 준수와 같은 규정을 다룬다. 이를 통해 AI 모델이 사회적 규범을 준수하고 안전한 상호 작용을 할 수 있도록 돕는다. 모델 스펙은 지속적으로 업데이트되며, 사용자 피드백과 함께 발전한다. 이는 윤리적 AI를 실현하기 위한 중요한 발걸음으로, 사용자와의 상호 작용에서 신뢰를 구축하는 데 중요하다.

 

 

원문보기:
오픈AI, 책임감 있는 AI 형성 위한 프레임워크 ‘모델 스펙’ 공개 - ITWorld Korea

오픈AI, 책임감 있는 AI 형성 위한 프레임워크 ‘모델 스펙’ 공개

---

 

레드햇, 오픈소스 생성형 AI 플랫폼 ‘RHEL AI’ 출시

8일 미국에서 열린 레드햇 서밋 2024 행사에서, 레드햇이 생성형 AI 모델을 더 원활하게 개발·테스트·배포할 수 있는 플랫폼 '레드햇 엔터프라이즈 리눅스 AI(Red Hat Enterprise Linux AI, RHEL AI)'를 출시한다고 밝혔다.
 
RHEL AI는 IBM리서치의 인스트럭트랩(InstructLab) 모델 정렬 도구와 커뮤니티 중심의 모델 개발 접근 방식을 결합한 솔루션이다. 하이브리드 클라우드 배포가 가능한 RHEL 이미지로 패키징돼 있으며, 레드햇의 하이브리드ML옵스(MLOps) 플랫폼인 오픈시프트 AI(OpenShift AI)에 포함돼 있어 분산 클러스터 환경에서 모델과 인스트럭트랩을 대규모로 실행할 수 있다. RHEL AI가 포함된 레드햇 오픈시프트 AI를 이용하면 기업이 새로운 AI 모델을 더 수월하게 실험하고 조정하는 것은 물론 기업용 애플리케이션에 생성형 AI를 더 쉽게 추가할 수 있다고 업체는 설명했다.

인스트럭트랩은 IBM리서치가 분류법(taxonomy) 기반 합성 데이터 생성과 새로운 다단계(multi-phase) 튜닝 프레임워크를 사용하는 개발 방식이다. 비용이 많이 드는 사람의 주석이나 독점 모델에 대한 의존도를 줄이고, 모든 사용자가 더 개방적이고 접근하기 쉬운 AI 모델을 개발할 수 있도록 지원한다. 이 방식을 사용하면 분류법에 수반되는 기술과 지식을 특정하고, 대규모 합성 데이터를 만들어 모델을 학습하는 모델을 개선할 수 있다.

 

 

#요약

레드햇은 레드햇 서밋 2024에서 '레드햇 엔터프라이즈 리눅스 AI(RHEL AI)'를 출시했다고 밝혔다. 이는 생성형 AI 모델을 더 쉽게 개발, 테스트 및 배포할 수 있는 플랫폼으로, IBM리서치의 인스트럭트랩과 커뮤니티 중심의 모델 개발 접근 방식을 결합한 솔루션이다. RHEL AI는 하이브리드 클라우드 배포가 가능하며, 레드햇의 오픈시프트 AI에 통합되어 대규모로 모델을 실행할 수 있다. 이를 통해 기업은 AI 모델을 더 쉽게 실험하고 조정하며, 기업용 애플리케이션에 생성형 AI를 추가할 수 있다. 인스트럭트랩은 분류법 기반 합성 데이터 생성과 다단계 튜닝 프레임워크를 사용하여 모델 개발을 지원한다.

 

 

원문보기:
레드햇, 오픈소스 생성형 AI 플랫폼 ‘RHEL AI’ 출시 - ITWorld Korea

레드햇, 오픈소스 생성형 AI 플랫폼 ‘RHEL AI’ 출시

 

---