[AI] BitNet 공개

이제 CPU만 있는 로컬 컴퓨터에서도 LLM을 구동 시킬 수 있는 환경이 열렸습니다.

내년에는 값비싼 범용 GPU가 아닌 인공지능을 위한 연산 처리용 프로세서가 출시될 수도 있는데,

그렇게 되면 일반 개발자들도 로컬 컴퓨터에서 인공지능 AI와 관련된 실험과 활용이 가능해질 것입니다.

 

이제는 개발자용 컴퓨터가 필요했던 시절처럼, 인공지능 활용이 일반화될 날이 얼마남지 않았고,

우리 손 안의 기기에서 인터넷 연결없이도 사용할 수 있는 고성능 인공지능 프로그램 실행될 날이 얼마남지 않은 것 같습니다.

 

https://github.com/microsoft/BitNet

GitHub - microsoft/BitNet: Official inference framework for 1-bit LLMs