Freddy
Apple scheint an einer deutlichen Leistungssteigerung seiner iPhone-eigenen KI-Fähigkeiten zu arbeiten. Wie The Information berichtet, führte der Konzern bereits Gespräche mit dem Start-up PrismML, um dessen Technologie für den Betrieb umfangreicherer KI-Modelle direkt auf dem Smartphone nutzbar zu machen.
Große Sprachmodelle lokal auf dem iPhone
Dem Bericht zufolge gelang es PrismML, Alibabas Open-Source-Sprachmodell Qwen 3.6 so zu komprimieren, dass es vollständig auf einem iPhone 17 Pro läuft. Mit 27 Milliarden Parametern übertrifft dieses Modell sogar Apples eigenes On-Device-System „AFM 3 Core Advanced“, das lediglich 20 Milliarden Parameter umfasst und aktuell für Funktionen wie die ausdrucksstärkeren Siri-AI-Stimmen sowie die verbesserte systemweite Diktierfunktion in iOS 27 verantwortlich zeichnet – verfügbar auf iPhone 17 Pro und iPhone Air.
Der entscheidende Unterschied liegt jedoch in der Architektur: Während Apples Modell auf ein sogenanntes „Sparse“-Prinzip setzt, bei dem jeweils nur 1 bis 4 Milliarden Parameter gleichzeitig aktiv sind, arbeitet PrismMLs Lösung mit sämtlichen 27 Milliarden Parametern zeitgleich.
Mehr Privatsphäre und geringere Serverkosten
Sollte Apple tatsächlich auf größere, lokal laufende Modelle setzen, ließen sich künftig mehr Apple-Intelligence-Funktionen direkt auf dem Gerät statt über die Private-Cloud-Compute-Server abwickeln. Das käme nicht nur der Nutzerprivatsphäre zugute, sondern könnte gleichzeitig auch Apples Infrastrukturkosten spürbar senken.
Mel
Fabian
Wollten die schon seit 2024. 😉
Ich denke eine weitere Aufrüstung der Hardware sowie weitere Verbesserungen bei den Modellen werden dazu führen, dass diese in 2 – 3 Jahren komplett lokal und performant laufen werden.
Wenn dem wirklich so wäre, warum werden dann Rechenzentren gebaut wo doe KI läuft? Wenn ein iPhone reichen würde…
Ich denke einfach, Apple ist völlig auf den Holzweg, aus besagten von dir genannten Gründen. Bis zum gewissen Punkt wird das iPhone das schon können aber bei komplexen Dingen dann auf KI Server zugreifen müssen.
Mittlerweile kommt bei mir nur noch „Apple will KI“ an.