728x90 반응형 Papers2 "The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits" - 흥미로운 LLM논문 인스타 보다가 우연히 본 쓰레드 게시글 INT-8 형식은 잘 채택하지 않는것으로 알고 있는데, FP-16을 대체할 수 있다는 류의 내용이라 흥미가 생겼다. Transformer 알고리즘을 공부하고 HW 설계를 해볼 생각이였는데, 마침 좋은 공부를 할 수 있을 것 같다. https://github.com/microsoft/BitNet GitHub - microsoft/BitNet: Official inference framework for 1-bit LLMsOfficial inference framework for 1-bit LLMs. Contribute to microsoft/BitNet development by creating an account on GitHub.github.com논문 오픈소스 gi.. 2024. 10. 22. "Why systolic architectures?" - HW Architecture 논문 추천 https://ieeexplore.ieee.org/document/1653825 Why systolic architectures? ieeexplore.ieee.org Systolic architecture에 대한 연구를 제시한다. 참고 공부 자료https://github.com/yuyuranium/FPGA-Project-2022-simple-tpu GitHub - yuyuranium/FPGA-Project-2022-simple-tpu: Systolic array based simple TPU for CNN on PYNQ-Z2Systolic array based simple TPU for CNN on PYNQ-Z2 - yuyuranium/FPGA-Project-2022-simple-tpugithub.com.. 2024. 8. 9. 이전 1 다음 728x90 반응형
