[ITNews] 2024년 5월 첫째 주

“지난해 국내 서버 시장 5.1% 감소…GPU 투자 쏠림ㆍ공급 지연 원인”

2023년 국내 서버 시장 규모가 전년 대비 5.1% 감소한 2조 9,521억 원으로 집계됐다. 신규 데이터센터가 늘어났지만, 기업 IT 예산이 생성형 AI 대응에 필요한 GPU 투자에 집중되면서 데이터센터 랙서버 물량의 감소로 이어진 것으로 보인다.
 

30일 시장조사업체 한국IDC가 ‘국내 엔터프라이즈 인프라스트럭처 서버 컴핏 보고서’를 발표했다. 이에 따르면, 국내 서버 시장은 그동안 기업의 디지털화를 지원하는 클라우드가 성장 동력이었으나 2022년부터 생성형 AI 시장이 급격히 커지며 시장 판도가 바뀌었다. 특히 2023년 정부의 공공 클라우드 전환 사업 예산 삭감으로 투자 방향을 잃은 국내 클라우드 서비스 업계가 생성형 AI용 GPU 서버에 IT 투자를 집중했다. 학습(Training), 추론(Inference) 등 생성형 AI의 2가지 대표적인 작업 중 특히 학습을 위한 8 GPU 서버가 선호됐으며 8 GPU 서버 공급이 가능한 서버 업체가 국내 서버 시장을 주도했다.

한국IDC는 향후 제조, 통신, 공공, 금융 등 다양한 산업에서 GPU 서버 도입이 늘어나면서 생성형 AI 시장의 저변이 확대될 것으로 전망했다. 특히 앞으로는 추론 작업에 GPU 외에 다른 가속기의 수요도 증가할 전망이다. 아직은 학습용 8 GPU 서버의 수요가 주류지만, 본격적으로 생성형 AI가 상용화되면 추론에 수요가 증가하면서 현재처럼 8 GPU 서버, 특히 GPU 업체인 엔비디아로 집중되는 현상은 해소될 것으로 보고서는 예상했다.

한국IDC는 국내 서버 시장이 향후 5년간 연평균 성장률(CAGR) 9.9%를 기록하며 2028년에는 4조 7,246억 원의 매출 규모를 형성할 것으로 전망했다. 지난해에는 시장이 줄었지만, 2024년부터는 주요 GPU 제조사의 공급이 회복되며 성장세로 전환할 것으로 봤다.

#요약

2023년 국내 서버 시장 규모는 전년 대비 5.1% 감소한 2조 9,521억 원으로, 이는 기업 IT 예산이 생성형 AI 대응에 필요한 GPU 투자에 집중되면서 데이터센터 랙서버 물량이 감소한 결과이다.
한국IDC에 따르면, 국내 서버 시장은 그동안 클라우드가 성장 동력이었으나, 2022년부터 생성형 AI 시장이 급격히 커지며 판도가 바뀌었고, 특히 2023년에는 국내 클라우드 서비스 업계가 생성형 AI용 GPU 서버에 IT 투자를 집중하였다.
한국IDC는 국내 서버 시장이 향후 5년간 연평균 성장률(CAGR) 9.9%를 기록하며 2028년에는 4조 7,246억 원의 매출 규모를 형성할 것으로 전망했다. 이는 주요 GPU 제조사의 공급이 회복되며 2024년부터 성장세로 전환될 것으로 예상되기 때문이다.

 

 

원문보기:

“지난해 국내 서버 시장 5.1% 감소…GPU 투자 쏠림ㆍ공급 지연 원인” - ITWorld Korea

“지난해 국내 서버 시장 5.1% 감소…GPU 투자 쏠림ㆍ공급 지연 원인”

 

---

AWS, 아마존 베드록 신기능 발표… “생성형 AI앱 구축·확장을 더 쉽고 빠르게”

 

 

아마존 베드록은 생성형 AI 애플리케이션을 신속하게 구축하고 배포하는 데 필요한 기능, 엔터프라이즈급 보안과 더불어 AI21랩스(AI21 Labs), 앤스로픽(Anthropic), 코히어(Cohere), 메타(Meta), 미스트랄AI(Mistral AI), 스태빌리티AI(Stability AI), 아마존 등에서 제공하는 주요 파운데이션 모델(foundation model, FM)에 대한 광범위한 액세스를 제공한다. 이번에 추가된 신규 기능을 통해 고객은 아마존 베드록에서 자체 완전 관리형 모델을 실행하고, 사용례에 가장 적합한 모델을 쉽게 찾고, 생성형 AI 애플리케이션에 더 쉽게 보호 기능(safeguard)을 적용하고, 더 많은 모델 선택권을 얻게 됐다고 업체 측은 설명했다. 

'커스텀 모델 가져오기' 기능은 기업이 자체 커스텀 모델을 아마존 베드록으로 가져와 운영 오버헤드를 줄이고 애플리케이션 개발을 가속화할 수 있도록 지원한다. 기업이 아마존 베드록에서 완전히 관리되는 API로 자체 커스텀 모델을 가져와 액세스할 수 있게 함으로써 생성형 AI 애플리케이션 구축 시 선택의 폭을 넓혔다는 설명이다. 

고객은 클릭 몇 번으로 아마존 세이지메이커나 다른 도구에서 커스터마이징한 모델을 손쉽게 아마존 베드록에 추가할 수 있다. 자동화된 검증 프로세스를 거치고 나면 아마존 베드록의 다른 모델과 마찬가지로 커스텀 모델에 액세스해 현재 베드록이 제공하는 다양한 이점을 누릴 수 있다. 현재 프리뷰 버전으로 제공되고 있으며, 가장 인기 있는 오픈 모델 아키텍처인 플란-T5, 라마, 미스트랄 3가지를 지원한다. 향후 더 많은 아키텍처를 지원할 계획이다.

'모델 평가' 기능은 고객이 애플리케이션에 가장 적합한 모델을 평가, 비교, 그리고 선택할 수 있도록 지원한다. 기업이 아마존 베드록에서 모델을 분석하고 비교할 수 있는 가장 빠른 방법으로, 모델 평가에 소요되는 시간을 몇 주에서 몇 시간으로 단축하여 새로운 애플리케이션과 경험을 더 빠르게 시장에 출시할 수 있도록 지원한다고 업체 측은 강조했다. 

고객은 정확성이나 견고성 등 사전 정의된 평가 기준을 선택하고 자체 데이터 세트 또는 프롬프트 라이브러리를 업로드하거나 기본 제공되는 공개 리소스에서 선택하여 빠르게 시작할 수 있다. 주관적인 기준이나 세심한 판단이 필요한 콘텐츠의 경우, 간편하게 워크플로우에 평가자를 추가하여 관련성, 스타일, 브랜드 보이스 등 사용례별 메트릭에 따라 모델 응답을 평가할 수 있도록 지원한다. 설정 프로세스가 완료되면 아마존 베드록이 평가를 실행하고 보고서를 생성하며, 고객은 주요 기준에 따라 모델이 어떻게 수행되었는지 쉽게 이해하고 사용례에 가장 적합한 모델을 신속하게 선택할 수 있다.

'가드레일 포 아마존 베드록'은 FM의 기본 기능에 업계 최고의 안전 보호 기능을 추가해 고객이 유해 콘텐츠를 최대 85%까지 차단할 수 있도록 지원한다. AWS 측은 현재 사용 가능한 다른 모델보다 뛰어난 성능을 제공한다고 주장했다. 아마존 베드록의 모든 LLM은 물론 미세 조정된 모델에서도 작동한다. 가드레일을 생성하려면 고객은 애플리케이션의 컨텍스트 내에서 거부된 주제에 대한 자연어 설명을 제공하기만 하면 된다. 또한 혐오 발언, 모욕, 성적인 언어, 자극적인 표현, 폭력 등의 영역을 필터링하는 임계값과 개인 및 민감한 정보, 욕설 또는 특정 차단 단어를 제거하는 필터를 구성할 수 있다. 

가드레일 포 아마존 베드록을 통해 일관된 사용자 경험을 제공하고 생성형 AI 애플리케이션 전반에 걸쳐 안전 및 개인정보 보호 제어를 표준화함으로써, 고객이 빠르고 안전하게 혁신할 수 있도록 지원한다는 설명이다. 

아마존 베드록은 AWS는 아마존 타이탄 텍스트 임베딩 V2(Amazon Titan Text Embeddings V2), 타이탄 이미지 제너레이터(Titan Image Generator), 코히어와 메타의 최신 모델을 지원한다.

아마존 베드록 전용으로 활용되는 아마존 타이탄 모델은 다양한 사용례를 위해 대규모의 다양한 데이터 세트를 AWS에서 생성하고 사전 학습하며, 책임감 있는 AI 사용을 위한 기본적인 지원을 제공한다. 현재 아마존 베드록은 아마존 타이탄 제품군을 지속적으로 확장해 고객에게 더 많은 선택권과 유연성을 제공하고 있다. RAG 사용례 작업에 최적화된 아마존 타이탄 텍스트 임베딩 V2는 정보 검색, 질의응답 챗봇, 개인화된 추천과 같은 다양한 작업에 적합하다. 또 고객에게 유연한 임베딩을 제공해 전체 스토리지를 최대 4배까지 줄여 운영 비용을 크게 절감하는 동시에, RAG 사용 사례의 정확도를 97%로 유지하여 다른 주요 모델보다 뛰어난 성능을 발휘한다고 업체 측은 말했다. 

메타가 최근 출시한 라마 3 FM은 현재 아마존 베드록에서 사용할 수 있으며, 곧 코히어의 커맨드 R(Command R) 및 커맨드 R+(Command R+) 모델도 출시될 예정이다. 

광범위한 사용례를 지원하는 사전 학습 및 지침 파인튜닝(instruction fine-tuned)된 라마 3는 개발자, 연구자, 기업이 생성형 AI 아이디어를 구축 및 실험하고 책임감 있게 확장할 수 있도록 설계됐다. 특히 텍스트 요약 및 분류, 감정 분석, 언어 번역, 코드 생성에 적합하다. 

코히어의 커맨드 R 및 커맨드 R+ 모델은 고객이 글로벌 비즈니스 운영 지원을 위해 10개 언어의 고급 RAG 기능을 갖춘 엔터프라이즈급 생성형 AI 애플리케이션을 구축하는 데 사용할 수 있는 최첨단 FM이다.

 

#요약

AWS가 아마존 베드록의 새로운 기능인 ‘커스텀 모델 가져오기’, ‘모델 평가’, '가드레일 포 아마존 베드록’을 발표했다. 이를 통해 고객은 자체 모델을 실행하고, 가장 적합한 모델을 찾고, 보호 기능을 적용하며, 더 많은 모델 선택권을 얻게 되었다.
아마존 베드록은 생성형 AI 애플리케이션을 신속하게 구축하고 배포하는 데 필요한 기능과 엔터프라이즈급 보안을 제공하며, 다양한 파운데이션 모델에 대한 액세스를 제공한다.
아마존 베드록은 아마존 타이탄 텍스트 임베딩 V2, 타이탄 이미지 제너레이터, 코히어와 메타의 최신 모델을 지원하며, 이를 통해 고객은 빠르고 안전하게 혁신할 수 있다.

 

 

원문보기:

AWS, 아마존 베드록 신기능 발표… “생성형 AI앱 구축·확장을 더 쉽고 빠르게” - ITWorld Korea

AWS, 아마존 베드록 신기능 발표… “생성형 AI앱 구축·확장을 더 쉽고 빠르게”

 

 

---

 

“직장 상사보다 AI에 조언 구하는 Z세대…” 이직 고민하게 만드는 기업의 특징

미국 HR 컨설팅 기업 인투(Intoo)의 최근 조사에 따르면, 유해한 업무 환경과 사내 이동성 부족으로 인한 직원 불만이 가중되고 있다. 문제의 주요 원인은 관리자의 행동에서 비롯한 것이라는 지적이 많았다. 
 

이번 설문조사는 인투가 리서치 기업 워크플레이스 인텔리전스(Workplace Intelligence)와 공동으로 실시했으며, 미국 직장인 800명과 인사 담당자 800명을 대상으로 했다. 조사에 따르면, Z세대 직원은 'AI 커리어 코칭(AI Career Coaching)'에 더 많이 참여하고 있으며, 챗GPT를 통해 최고의 커리어 관련 조언을 얻는다고 답했다. Z세대 약 47%는 관리자보다 챗봇에게 더 나은 조언을 얻는다고 답했다.

또한 직원 77%와 인사 책임자 79%는 직장에서 유해한 업무 환경의 특징을 하나 이상 경험한 적이 있다고 답했으며, 직장에서 열악한 대우와 경력 발전 가능성 부족으로 인해 다른 곳에서 적극적으로 일자리를 찾는 직장인이 점점 더 많아지고 있는 것으로 나타났다. 2023년 11월 19일부터 12월 2일 진행된 조사 데이터는 지난 2월 발표됐다가 업데이트된 내용으로 최근 다시 공개됐다. 

조사는 업무 환경을 저해하는 요인과 함께 직무 만족도 및 성과 향상, 장기 근속으로 이어지는 긍정적인 업무 환경을 조성하는 요소에 초점을 맞췄다. 조사에 참여한 직원 46%는 관리자가 특정 직원을 편애하는 것이 업무 환경을 저해하는 가장 큰 요인으로 꼽았다. 직원 42%는 피드백을 무시하는 관리자/리더가 원인이라고 답했다. 

관리자의 잘못된 조언도 업무 환경에 악영향을 끼치는 것으로 나타났다. 직원 1/3 이상(39%)이 관리자에게 잘못된 경력 조언을 받은 적 있다고 답했다. 실제로 많은 직원이 상사보다는 친구 혹은 가족(62%), 구글(44%), 소셜 미디어(36%), 생성형 AI(전체 응답자 중 34%)에게서 더 다은 커리어 조언을 얻는다고 답했다. 

반면 응답자 63%는 고용주가 직원의 경력 개발보다 생산성에 더 신경을 쓴다고 느끼고 있었으며, 54%는 자신만의 힘으로 경력을 개발해야 한다고 느낀다고 답했다. 고용주가 직원의 경력 개발을 중요하게 생각하지 않는다고 답한 응답자는 44%에 달했다. 이런 정서와 더불어 설문조사에 참여한 HR 리더들은 직원의 25%(Z세대 직원의 44%)가 경력 개발에 대한 지원 부족으로 인해 향후 6개월 이내에 직장을 그만둘 가능성이 있다고 예상했다.

젊고 숙련된 직원들이 떠난다

채용 및 재취업 주선 기업 LHH가 27개국 정규직 직장인 3만 명을 대상으로 실시한 조사에서는 응답자 절반가량(46%)이 이직을 원하지만, 어떤 경로를 택해야 할지 모른다고 답했다. 또한 응답자 72%는 다음 직업, 재교육, 업스킬링 등 미래 계획을 적어도 분기당 한 번 이상 고민하는 것으로 나타났다. 

LHH 설문조사에 따르면, 직장인 대부분(86%)이 6개월 이내에 자신의 네트워크(74%), 독립적인 구직 활동(71%), 인력소개소(68%)를 통해 새로운 일자리를 찾을 수 있다고 확신하는 것으로 나타났다. 거의 절반(46%)은 관리자가 기업 내 다른 직무로의 이직을 지지하지 않을 것이라고 답했다. 

또한 47%는 채용 공고에 대한 최신 정보를 파악하고 있지만 아직 지원하지는 않고 있었다. 적극적으로 구직하고 있는 응답자는 18%였으며, 19%는 채용 예정 기업과 면접을 보고 있다고 답했다. 회사 내부에서 새로운 기회를 찾고 있다고 답한 응답자는 8%에 그쳤다. 

LLH 보고서 집필팀은 "기술 분야 노동자는 자신의 기술이 다른 산업이나 기술 분야 내 다른 직무로 이전할 수 있다고 가장 확신한다"라며 기업이 기술 분야의 숙련된 인재를 유치하기 위해서는 직원에게 투자해야 한다고 조언했다. 

직원의 광범위한 불안감은 국가와 산업 전반에 걸쳐 퍼져있는 것으로 나타났다. 특히 호주(65%), 중국(62%), 터키(59%), 미국(57%) 직장인은 외부 요인이 경력에 더 큰 영향을 미친다고 느끼는 정도가 가장 컸다. 이들 국가에서는 자신의 사업을 시작하려고 퇴사하는 비율이 급여를 이유로 퇴사하는 비율보다 높았는데, 이는 직원들이 권한을 얻기를 원한다는 것을 보여준다. 

 

 

#요약

직장 불만 증가: 미국 HR 컨설팅 기업 인투의 조사에 따르면, 유해한 업무 환경과 사내 이동성 부족으로 인한 직원 불만이 증가하고 있다.
AI 커리어 코칭: Z세대 직원들은 AI 커리어 코칭에 참여하며, 챗봇으로부터 더 나은 커리어 조언을 받고 있다고 답했다.
경력 개발 지원 부족: HR 리더들은 직원의 25%가 경력 개발에 대한 지원 부족으로 인해 향후 6개월 이내에 직장을 그만둘 가능성이 있다고 예상했다.

 

 

원문보기:
“직장 상사보다 AI에 조언 구하는 Z세대…” 이직 고민하게 만드는 기업의 특징 - ITWorld Korea

“직장 상사보다 AI에 조언 구하는 Z세대…” 이직 고민하게 만드는 기업의 특징

 

 

---