애플 연구진은 허깅페이스 모델 라이브러리에서 4개의 소형언어모델 시리즈인 오픈ELM(OpenELM, Open-source Efficient Language Models)을 오픈 소스로 공개했다. 소형언어모델은 실행 비용이 저렴하며 휴대폰 및 노트북과 같은 장치에서 작동하도록 최적화돼 있는 것이 특징이다.
허깅페이스 모델 페이지에 따르면 오픈ELM은 이메일 작성과 같은 텍스트 관련 작업을 매우 효율적으로 수행한다. 매개변수별로 2억7000만개, 4억5000만개, 11억개, 30억개의 총 4가지 크기가 있다.
https://www.digitaltoday.co.kr/news/articleView.html?idxno=515208
https://discuss.pytorch.kr/t/apple-270m-3b-openelm/4204