Apple discute avec PrismML, une startup capable de compresser un modèle d’intelligence artificielle de 27 milliards de paramètres pour le faire tourner sur un iPhone. La technique réduit la mémoire nécessaire jusqu’à 15 fois, une piste qu’Apple évalue pour renforcer le traitement local de Siri.
Vous voulez dire que Apple applique ce que Ms a fait avec bitnet, opensource, depuis 2 ans?
Et que Onnx permet de faire sur des modèles depuis … que je manipule des modèles (2018)?
(pour info, bitnet ça marche vraiment pas mal - mais les modèles douillent pas mal lors de la compression, il y a quelques billets dessus, certaines possibilités intéressante (chinoises) c’est de prendre un modèle bitnet tout fait et de le spécialiser OU de prendre un modèle compressé en 1bit et de le resécialiser, mais en 1bit directement pour limiter les halus)