삼전 메모리 기술근황

https://youtu.be/SxOy8FzolJw?si=hnChkD1sj8G-pB02

LPDDR5X-PIM 개발했다함.

여기에서 PIM이란? Procrssing in memory 의약자로

메모리 내부에서 자체적으로 연산처리기능 달아놓아서

FP16,FP8,INT,4/8/16 등 다양한 연산을 지원함

기존 범용 규격과 배열을 동일하게 설계해 시스템 변경 없이 곧바로 장착할 수 있는 높은 호환성내 맞춰 만들었으며

초당 토큰 처리량 역시 기존 일반 메모리의 3배에 달하는 성능을 보여주며 AI 연산의 고질적인 지연 병목 현상을 해결할 대안으로 

메타의 AI 모델 라마 3.1을 대상으로 한 테스트 가 이루어졌으면

기존 대비 약 2.3배 빠른 처리 속도를 기록했다함

차세대 LPDDR6-PIM 표준화 작업에도 착수중이라고함.

지금같이 ai시장에 빠르게 신기술 이것저것 빠르게 수요로 도입되는.시장에서 앞으로 pim기능달린 비디오카드겸사용 램카드나

Gddr-pim 같은거도 기대해볼만한듯