Offcanvas

AI / 머신러닝|딥러닝 / 비즈니스|경제

인텔, AI PC에서 온디바이스로 작동하는 MS 코파일럿 언급

2024.03.29 Sascha Brodsky  |  Computerworld
AI PC가 머지않아 컴퓨터에서 직접 생성형 AI 작업을 처리할 수 있게 되며, 이를 통해 속도와 프라이버시 보호를 높일 전망이다.
 
ⓒ Getty Images Bank

마이크로소프트의 코파일럿 AI는 향후 클라우드에 의존하지 않고 PC에서 자체 실행될 수 있다. 인텔은 톰스하드웨어에 초당 40조 회 이상의 연산(TOPS)을 처리하는 신경처리장치(NPU)가 탑재된 미래의 AI PC에서 온디바이스로 생성형 AI를 실행할 수 있을 것이라고 밝혔다. 다만 이는 현재 사용 가능한 소비자 프로세서와는 아직 비교되지 않는 성능 수준이다.

인텔은 AI PC가 "코파일럿의 더 많은 요소"를 컴퓨터에서 직접 처리하는 기능을 갖출 것이라고 언급했다. 코파일럿은 현재 대부분의 작업을 클라우드 처리에 의존하고 있다. 이 때문에 사소한 요청의 경우 눈에 띄는 지연이 발생하기도 한다. 로컬 컴퓨팅 성능을 향상하면 이러한 지연이 줄어들어 속도와 프라이버시 보호를 향상할 전망이다.

PC에서 자체 실행되는 코파일럿
윈도우11에서 코파일럿, 챗GPT, 어도비 파이어플라이 등 생성형 AI 도구를 사용하면, 사용자 컴퓨터가 아니라 상당한 자원과 전력을 사용하는 원격 데이터센터에서 작업을 처리한다. 스테이블디퓨전 텍스트-이미지 모델이나 라마(Llama) 언어 모델 같은 애플리케이션을 로컬에서 실행할 수는 있지만, 고품질 결과를 얻으려면 일반적으로 고사양 PC, 특히 과거 암호화폐 채굴에 사용되던 고속 GPU가 필요하다.

최근 인텔 메테오레이크 칩, NPU를 탑재한 AMD 제품 등 하드웨어가 발전하면서 AI PC 논의도 활발해지고 있다. 저전력 구성 요소로 설계된 NPU는 생성형 AI 모델의 온디바이스 실행을 지원해 AI 처리 효율성을 높이는 것을 목표로 한다. NPU가 미래 PC의 표준 기능이 되면 배터리 전원으로도 백그라운드에서 원활히 생성형 AI 작업을 할 수 있을 것으로 기대되고 있다.

예를 들어 MSI의 최신 AI 엔진은 노트북 활동을 인식해 배터리 프로필, 팬 속도, 화면 설정을 작업에 맞게 자동으로 조정한다. 게임을 할 때는 성능을 최대로 끌어올리고, 워드 문서 작업으로 전환하면 다시 돌아간다.

어디서나 쓸 수 있는 AI
온디바이스 AI는 PC뿐만 아니라 모바일 기기에서도 주목받는 기술이다. 이를테면 구글의 픽셀8 및 픽셀8 프로 스마트폰에는 온디바이스 생성형 AI의 기반을 마련했다는 텐서 G3 칩이 탑재됐다. 텐서 칩은 이미 녹음기 앱의 오디오 요약, G보드 키보드의 지능형 응답 생성 등 AI 기반 기능을 지원하고 있다. 하지만 구글 바드 AI, 코파일럿 또는 챗GPT 등의 광범위한 AI 모델을 로컬에서 실행할 수 없으며, 대신 보다 컴팩트한 모델을 실행한다.

온디바이스 AI의 주요 장점은 사이버 보안을 강화할 수 있다는 점이다. 사이버 보안 컨설턴트인 존 밤베넥은 기업이 지적 재산 업무에 AI를 통합할 때 직면할 수 있는 위험이 데이터 흐름과 액세스 관리라고 지적했다.

그는 "서드파티 클라우드 서비스 침해를 충분히 봤기 때문에, 약속을 하더라도 데이터가 손실될 수 있다는 것을 알고 있다. 조직에서 MS 코파일럿 AI를 로컬에서 수행할 수 있다면 CISO는 여전히 데이터를 제어하고 있다고 느낄 수 있으며, 현재 존재하는 가장 큰 도입 장벽을 제거할 수 있을 것이다"라고 말했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.