온디바이스AI 챗GPT 이후 미래를 열다

안녕하세요?

1월 17일 공개된 삼성전자의 차기 플래그십 스마트폰 갤럭시 S24가

온디바이스AI 포문을 열었습니다.

갤럭시 S24는 실시간 통,.번역등 서비스를 인터넷 연결없이

온디바이스AI로 처리하여 새로운 모바일AI폰의 시대를 열었습니다.

AI스마트폰 갤럭시 S24(출처:한경비지니스)

목 차

1. 온디바이스 AI 개념

2. 바뀌는 반도체 패러다임

3. AI기술 트렌드 변화

 

1. 온디바이스 AI 개념

반응형

 

챗GPT의 생성형AI의 다음 온디바이스AI는 서버나 클라우드를

거치지 않고 자체 디바이스에서 AI서비스를 하는 개념입니다.

 

갤럭시S24가 탑재한 다양한 AI기능은 스마트폰에 탑재된

온디바이스AI가 빠르게 결과물을 만들어 줍니다.

 

아래 클라우드AI와 온디바이스AI의 이미지를 참고 하시기

바랍니다.

클라우드AI와 온디바이스 AI(출처:한경비지니스)

생성형AI가 빠른 속도로 발전하면서 많은 사람들이 업무나 생활,

학습 측면에서 챗GPT의 활용에 익숙해지고 있습니다.

 

생성형AI는 클라우드 연결을 위해 인터넷 연결이 필수여서 인터넷

연결상태와 데이터 양에 따라 서비스 품질이 차이가 있습니다.

 

사용자 입장에서 온디바이스AI는 커다란 혁신입니다.

 

클라우드와 연동없이 기기내에서 많은 데이터를 처리하기 때문에

서버 지연시간이 없고 보안에 강합니다

 

2. 바뀌는 반도체 패러다임

반응형

 

온디바이스AI를 가능하게 한 건 반도체 성능의 진화입니다.

새로운 반도체인 신경망처리장치(NPU)가 필수입니다.

 

*NPU(Neurl Processing Unit)는 사람의 두뇌처럼 효율적인 데이터를

처리하는 기술입니다. 인간처럼 학습하고 추론하는데 최적화된 기술로

평가합니다. 인간의 신경계를 본떠 동시다발적으로 데이터를 처리하는

반도체입니다.

 

2.1 세계 반도체 시장 패러다임 변화

반도체(출처:한경비지니스)

CPU의 절대강자인 인텔, 퀄컴 그리고 GPU의 최강자는 엔비디아

입니다.

삼성전자가 아직 디바이스의 두뇌인 프로세서를 가져본 적은

없습니다.

 

AI 반도체 생산에 필요한 메모리, 파운드리, 패키징, 온디바이스 AI를

구현할 세트(스마트폰,가전) 기술이 있는 삼성이 유일하기 때문에

NPU 시스템반도체의 경쟁력을 끌어올릴수 있습니다.

 

퀄컴과 인텔 등 기존 AP, CPU 강자 역시 반도체 패러다임 변화 주도에

사활을 걸고 있습니다.

 

삼성전자와 SK하이닉스가 양분하는 메모리반도체 시장 역시 새로운

기회가 열립니다.

메모리반도체가 연산 일부를 해야하기 때문입니다.

 

3. AI기술 트렌드 변화

반응형

 

최근 삼성전자는 차세대 AI 기술 트렌드에서 ‘온센서AI’를 온디바이스AI

다음 단계로 지목 했습니다.

AI 기술 트렌드(출처:Tech World)

온센서AI 기술은 IoT기반의 새로운 컴퓨팅 기술을 배경으로 합니다.

 

온디바이스AI가 AP를 채택하는 것과 달리 온센서AI는

마이크로컨트롤유닛(MCU)을 통해 구동됩니다.

MCU는 AP에 비해 성능은 떨어지지만 특정 AI 기능을 설정하고

수행하도록 프로그래밍 하는데 효율적입니다. 

 

이러한 센서 기술은 스마트기기, 스마트홈, 스마트카, 스마트팩토리,

스마트시티 등의 다양한 스마트 IT 융합 플랫폼에 적용돼 지능형

IoT 및 AI 서비스 구현을 위한 핵심 기술이 될 것으로 전망됩니다.

 

AI기술 트렌드 이동(출처: Tech World)