Swiftlet: Como Rodar LLMs de 80B em Pouca RAM no Mac e iPhone
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
A Apple anuncia uma nova arquitetura de inteligência artificial baseada no Google Gemini, transformando os seus modelos em nuvem. Acompanhe as mudanças no iPhone e entenda como isso impacta os desenvolvedores iOS. Exploramos o porquê dessa parceria ser tão significativa.