[ITNews] 2024년 1월 셋째 주

오픈AI, 군사적 용도에 대한 AI 기술 사용 약관 삭제해

챗GPT 오픈AI가 이용 약관을 변경해 군사와 전쟁 부문에서 AI 기술이나 LLM을 사용하는 경우의 특정 문구를 삭제했다.

 

AI로 인한 위험 계속 지적돼

지난해 5월 수백 명의 IT 업계 경영자와 책임자, 학자, 기타 유명인은 AI의 진화가 인류의 멸종으로 이어질지 모른다는 경고 서한에 서명하면서 AI 통제가 전 세계 최우선 과제가 되어야 한다고 주장했다.

미국 샌프란시스코의 AI 안전 센터 역시 “AI로 인한 인류 멸종 위험을 줄이는 것은 전염병, 핵 전쟁 같은 대규모 위험과 함께 전 세계적 우선순위가 되어야 한다”라고 주장했다. 

서명자 중 샘 알트먼과 마이크로소프트 CTO 케빈 스콧이 있다는 것이 아이러니였다. 구글 AI 연구소인 딥마인드의 임원, 엔지니어, 과학자들도 서명에 동참했다.

지난해 3월 1,100명 이상의 IT 저명인사, 과학자가 AI로 대규모 실험을 진행하는 연구소를 대상으로 경고를 보낸 것이 AI에 반대하는 최초의 서명이었다. 

지난 10월 오픈AI는 프론티어 AI 모델이라는 개념이 핵 전쟁 등 여러 위협을 일으키는 것을 막는 부서를 만들 것이라고 밝혔다. 오픈AI는 블로그를 통해 “현재 가장 진보한 기존 모델을 뛰어넘는 프론티어 AI 모델은 모든 인류에게 혜택을 줄 것이라고 믿는다”라면서도 “그러나 점점 심각한 위험을 초래할 수도 있다”라고 밝혔다.

2017년 AI 및 로봇 공학 전문가로 구성된 한 국제 그룹은 화약과 핵무기에 이은 자율 무기로 대표되는 ‘제3의 전쟁 혁명’을 우려하며 자율 무기 사용을 중단하라는 공개 서한을 UN에 보냈다. 역시 아이러니하게도 이 전문가 집단에는 오픈AI와 경쟁하려고 X.AI라는 AI 기업을 설립한 일론 머스크도 포함되어 있었다.
 

우려할 이유도 분명해

더 우려할 만한 이유도 있다. 악하거나 나쁜 AI 모델의 성능을 축소하거나 선으로 재훈련할 수 없다고 주장하는 연구자도 있다.

앤트로픽(Anthropic)의 한 연구에 따르면 AI 시스템에 기만적 행동이나 전략을 학습할 경우 그러한 행동이 지속될 수 있다. 연구진은 “이러한 백도어 동작은 지속성을 지닐 수 있으므로 감독을 통해 미세 조정, 강화 학습, 적대적 훈련 등의 표준 안전 훈련 기법으로는 제거되지 않는다는 점”을 발견했다.

또한, 연구진은 “이번 연구를 통해 모델이 기만적인 행동을 나타낼 경우 표준 기법으로는 완화할 수 없고, 오히려 안전하다는 잘못된 인상을 심을 수 있다”라고 밝혔다. 더욱 우려스러운 점은 모델의 기만적 행동을 방지하기 위해 적대적 훈련을 하면 모델이 백도어 트리거를 더 잘 인식하도록 학습되어 안전하지 않은 행동을 효과적으로 숨길 수 있다는 점이었다.

 

 

원문보기:

오픈AI, 군사적 용도에 대한 AI 기술 사용 약관 삭제해 - ITWorld Korea

오픈AI, 군사적 용도에 대한 AI 기술 사용 약관 삭제해

 

---

 

"사람은 적고 일 잘하는 사람은 더 적고" Z세대와 기업의 엇갈리는 시선

최근 몇 년간 Z세대의 구직이 그 어느 때보다 어려워진 것으로 보인다. 기술이 빠른 속도로 변화하는 가운데, 기업에서 원하는 경험이나 스킬이 부족하다는 점이 문제로 꼽히고 있다. 

리스킬링 교육 업체 와일리 엣지(Wiley Edge)가 영국의 21~25세 성인 1,000명을 대상으로 실시한 설문조사에 따르면, 전체 응답자의 절반 이상이 첫 취업까지 최대 9개월이 걸렸다고 말했다. 기술 분야에서 종사하는 Z세대의 37%는 6개월 이상 소요됐다고 답했다.

IT 채용에 영향을 미치는 다른 요소도 있다. 
 

• 기업은 대학 학위만 채용 기준으로 적용하는 관행에서 벗어나, 스킬 기반의 인재를 채용하는 방향으로 전환하고 있다. 
• 가장 수요 많은 스킬로는 풀스택 개발자, 데이터 과학자, 인공지능 엔지니어 및 개발자가 있다. 
• 인공지능과 생성형 AI의 부상은 낮은 수준 또는 일상적인 업무를 수행하는 초급 IT 직무에 부정적인 영향을 미칠 수 있다. 
• 와일리 엣지에 의하면 기술 분야의 Z세대는 좋은 기술 경력이 무엇인지 제대로 알지 못해 대기업에서 일하는 것을 선호한다. 

일반적으로 1997년부터 2012년 사이에 태어난 세대를 일컫는 Z세대는 내년까지 전체 노동 인구의 27%를 차지할 것으로 예상된다. 따라서 기업은 필요한 스킬을 찾고, 젊은 세대는 채용 기대치를 조정하는 것이 중요해질 전망이다. 

와일리 엣지의 파트너십 부문 책임자 카디자 판도르는 “차세대 기술 인력과 확장하는 기술팀 사이의 격차는 구직자가 일자리를 찾는 방식 그리고 기업이 인재를 찾기 위해 사용하는 전략이라는 2가지 요인으로 악화되고 있다”라고 언급했다. 

판도르는 기업의 인재 확보 전략과 관련해 “유능한 인재는 어디서나 찾을 수 있으며, 다양한 배경과 경험을 가진 사람을 채용하면 새로운 관점과 다양한 스킬을 확보할 수 있다”라고, 그리고 구직자가 일자리를 찾는 방식과 관련해서는 “대기업 취직은 경쟁이 치열하다. 지원자의 수요에 비해 공급되는 일자리가 부족하기 때문”이라고 전했다. 

실제로 탄탄한 경력 기회는 소규모 기업부터 글로벌 기업까지 다양한 기술 기업뿐만 아니라 금융, 의료, 물류 등 다른 분야에서도 존재할 수 있다. 
 

젊은 인재를 유치하기 위해 기업이 할 수 있는 일

판도르는 젊은 세대가 성공적인 기술 경력을 어떻게 인식하는지 고려한다면 소규모 기업 및 기술 이외의 수직 산업에서 기술 일자리에 관한 인식을 높여야 한다고 밝혔다. 예를 들어 금융, 의료, 물류 등은 모두 기술 인재가 필요한 산업이다. 

이어 판도르는 변화를 불러올 실질적인 방법은 기업이 더 넓은 범위의 대학에서 기업 브랜드를 홍보하는 것이라면서, “취업 박람회 같은 대면 행사 그리고 가상 이벤트, 소셜 미디어 같은 온라인 캠페인 등을 통해 다양한 배경을 가진 학생과 소통하면 유능한 인재를 찾을 수 있는 범위가 넓어진다”라고 설명했다. 

기업이 조직 문화를 소개하고, 다양한 배경의 인재에게 소속감을 조성하는 방법을 보여주는 것도 중요하다. 판도르는 “직원 리소스 그룹 등의 포럼을 만들고 홍보하면 기업이 개인의 목소리를 경청할 뿐만 아니라 신입사원이 환영받는다고 느끼게 할 수 있다”라며 “안타깝게도 많은 Z세대 직원이 여전히 직장에서 소외감을 느끼고 있다. 60%는 성별, 인종, 장애, 신경 발달 상태 또는 사회경제적 배경 때문에 기술 직무를 수행하는 데 불편함을 느낀 적이 있는 것으로 조사됐다”라고 전했다.

Z세대가 원하는 것

딜로이트가 2023년 전 세계 44개국에서 1만 4,483명의 Z세대와 8,373명의 밀레니얼 세대를 대상으로 설문조사를 실시한 결과, Z세대의 49%와 밀레니얼 세대의 62%는 일이 정체성의 핵심이라고 답했다. 한편 일과 삶의 균형도 동료 사이에서 부러워하는 특성이며, 새로운 직장을 선택할 때 가장 중요하게 고려하는 사항이라고 밝혔다.  

아울러 유연성과 신뢰가 기업과 직원 모두 성공할 수 있는 환경의 핵심인 것으로 나타났다. 기업 리더는 업무 방식 자체의 설계와 실행에 집중해 이런 요구 사항을 해결하고, 업무 공간의 유연성을 확보할 수 있다. 

딜로이트는 “기업은 하이브리드 근무 전략을 사려 깊으면서도 의도적으로 접근해야 한다. 직원이 이런 방식으로 근무할 때 발생할 수 있는 잠재적인 부정적 영향에 관한 우려를 완화해야 한다”라고 덧붙였다. 

언제나 그렇듯 급여가 문제다. 특히 높은 생활비를 감당하기 위해 고군분투하는 젊은 세대에게는 더욱 그렇다. 하지만 Z세대와 밀레니얼 세대는 급여 인상 및 승진에 관해 기업과 이야기하는 것을 꺼리는 경우가 많다고 딜로이트는 언급했다. 

Z세대 직원이 해야 할 일

미국의 IT 인력 공급 업체 엑스페리스(Experis)의 수석 부사장 게르 도일에 따르면 오늘날 기술 변화의 속도는 그 어느 때보다 빠르다. 도일은 인공지능과 생성형 AI의 부상으로 변화가 더욱 가속될 것이라면서, “신입 사원은 물론 현재 근무 중인 직원도 새로운 시대에서 경쟁력을 유지하기 위해 평생 학습이라는 개념을 받아들여야 한다”라고 말했다. 

판도르도 이에 동의하면서 “지원자는 구직 과정에서 계속 호기심을 가져야 한다. 기술 뉴스를 통해 디지털 세계의 최신 동향 및 발전 정보를 파악하면 면접에서 끊임없이 변화하는 분야에 대한 관심을 보여줄 수 있다. 실용적인 관점에서 봤을 때도 취업 활동을 하면서 계속 스킬을 연마하고 향상시킨다면 성공적인 출발을 준비할 수 있다”라고 조언했다. 

이어 판도르는 젊은 세대가 취업할 수 있는 역할의 폭과 다양성을 잘 모를 수 있고, 경력 초기에 다른 기회를 배제해서는 안 된다고 말했다. 현재 가장 수요가 많은 직무와 해당 직무에 필요한 스킬을 살펴보고, 관련 스킬을 강조할 수 있도록 이력서를 조정할 필요가 있다. 

 

원문보기:

"사람은 적고 일 잘하는 사람은 더 적고" Z세대와 기업의 엇갈리는 시선 - ITWorld Korea

"사람은 적고 일 잘하는 사람은 더 적고" Z세대와 기업의 엇갈리는 시선

 

---

온디바이스 vs. 클라우드…모두가 주목하는 AI, 처리는 어디서?

클라우드를 채택한 기업 IT 부서에서는 지난 몇 년 사이버 보안과 규정 준수는 물론 클라우드의 경제성에 대한 실망감도 커졌다. 그러나 소수를 제외하고 일반적으로 기업은 별다른 조치를 취하지 않았다. 확장성과 효율성이 너무 매력적이었기 때문이다.

인텔과 엔비디아에 이어 애플도 자체 칩에 더 고급 컴퓨팅 기능을 추가하는 방안을 언급하기 시작했다. 새로운 기능의 목적은 온디바이스에서 더 많은 대규모 언어 모델(LLM) 기능을 실현하는 것이지만, 그 정도의 데이터 처리 및 분석이 가능하다면 다른 기업 IT 작업도 대부분 처리할 수 있다.
 
CIO가 클라우드 비용에 이미 실망하고 있는 상황에서(게다가 아마존, 구글, 마이크로소프트는 올해 클라우드 요금을 인상할 것이 분명하다) 고성능화된 CPU가 클라우드에 대해 이른바 '가득찬 물컵을 넘치게 하는 마지막 한 방울'이 될 수 있을까?
 
온프레미스에서 클라우드로 이동하는 기업 데이터의 비율은 원래 매년 점진적으로 증가하는 추세였다. 변곡점은 코로나19로 인해 대부분의 기업이 사무실 및 컴퓨터실 운영을 중단한 2020년 2월경으로, 기업은 급작스럽게 클라우드로 전환해야 했다. 그후 다시 2019년의 온프레미스 수준으로 돌아가기를 원하는 기업은 거의 없었다.
 
언스트 앤 영의 사이버 보안 및 데이터 개인정보 보호 담당 이사 브라이언 레빈은 "기업과 기업의 CISO, CIO는 클라우드가 일부에서 기대했던 만병통치약이 아니라는 사실을 이제 인식하고 있다. 클라우드에는 장단점이 있다. 많은 효율성을 얻을 수 있지만 새로운 보안 문제도 생긴다. 예를 들어 범죄자들이 큰 표적을 노릴 기회를 갖게 된다. 기업 입장에서는 등에 커다란 과녁을 붙이는 것과 같다”라고 말했다.
 
레빈의 핵심은 클라우드로 인해 단일 장애 지점이 생성된다는 것이다. 주요 클라우드 환경 같이 클라우드 보안이 최고 수준이라는 측면에서 보면 클라우드가 유일한 장애 지점이라는 것은 좋은 일이지만, 이 말은 공격자가 일단 침입에 성공하기만 하면 수백, 수천 개의 주요 기업 일급 비밀에 접근할 수 있다는 의미이기도 하다. 매력적인 공격 표적이며, 특히 국가와 관여된 공격자가 관심을 가질 정도의 기밀이라면 공격을 위해 상당한 노력과 투자를 할 가치가 있는 표적이 된다.
 
또 다른 요인은 클라우드 경제성과 관련된다. 초기 클라우드 판매에서 내세운 점은 기업이 데이터 요구사항을 클라우드 공급업체에 넘기고 IT 비용을 다른 곳에 투자할 수 있다는 것이었다.
 
그러나 클라우드 비용은 지속적으로 증가했고 효율성도 현실화되지 않았다. 기업은 일반적으로 다양한 목적에 따라(백업, 재해 복구, 데이터 주권에 관한 지리적 문제 등) 복수의 클라우드 환경을 두고 있으므로 AWS, 구글, 애저와 같은 각 클라우드 유형별로 전문가를 채용해야 한다.
 
대형 클라우드 업체가 제공하는 고급 보안을 구현할 역량이 없는 소규모 기업의 경우 이 같은 절충이 재무적 측면에서 합리적일 수도 있다. 그러나 대기업, 특히 포춘 100대 기업에 속하는 수준이라면 자체적으로 강력한 보안을 구축할 수 있는 경우가 많다.

 

관건은 기업 IT 부서가 클라우드에서 이것저것을 빼서 내부로 다시 가져올 것인지가 아니다. IT 부서는 항상 그렇게 할 수 있는 역량이 있었음에도(팬데믹 기간을 제외하고) 대부분 하지 않았다. 필자는 앞으로도 마찬가지일 것이라고 생각한다. 다만 클라우드로 전송되는 새로운 데이터의 양이 조금 줄어들 가능성은 분명히 있다.

앞으로 구현될 새로운 칩 역량이 변화를 가져올까? 핵심 질문은 바로 이것이다.

 

 

 

원문보기:

온디바이스 vs. 클라우드…모두가 주목하는 AI, 처리는 어디서? - ITWorld Korea

온디바이스 vs. 클라우드…모두가 주목하는 AI, 처리는 어디서?

---