Du willst KI nutzen, möchtest aber nicht, dass Tech-Firmen deine Daten nutzen? Ein lokales KI-Modell kann Abhilfe schaffen. Das hat gleich zwei offensichtliche Vorteile: Zum einen benötigst du kein Abo, zum anderen laufen deine Daten nicht in die Clouds großer Unternehmen ein. Allerdings benötigt die KI je nach Umfang viel Speicherplatz und starke Hardware. Apple-Nutzer dürfen sich allerdings freuen: Ein Mac mit einem M1-Prozessor oder einem neueren Chip reicht dafür schon aus. Mit den sogenannten Apple Foundations Models steht bereits eine KI zur Verfügung, die Anfragen lokal beantworten kann. Voraussetzung dafür ist die Einrichtung von Apple Intelligence auf dem Gerät. Bei Apple Foundation Models handelt es sich um eine Lösung, die beispielsweise Dokumente umformulieren oder E-Mails zusammenfassen kann. Mit macOS 27 (Golden Gate) lässt sich die KI über das Terminal ansprechen – eine Drittanbieter-Lösung benötigst du dafür nicht.

unternehmer.de zu Google hinzufügen

Mehr über KI findest du am Ende dieses Beitrags.

So aktivierst du die KI auf deinem Apple Mac

Das Terminal lässt sich ganz einfach über den Apple-Launcher im Dock oder über die Suche nach „Terminal“ in der Spotlight-Suche öffnen. In das Terminal gibst du zunächst „fm“ ein und bestätigst mit Enter. Daraufhin erscheint im Terminal die Aufforderung, den Nutzungsbedingungen zuzustimmen. Hier gibst du ein:

sudo fm license

Zum Bestätigen gibst du anschließend dein Admin-Passwort für den Mac ein und tippst danach nur noch das Wort „yes“ ein. Die nötigen Infos für die Nutzungsbedingungen findest du direkt bei Apple. Hat alles geklappt, gibst du erneut „fm“ in die Kommandozeile ein. Nun erscheint eine Auflistung verschiedener Befehle – wenn du zunächst nur ausprobieren möchtest, was das Modell kann, ist insbesondere „respond“ wichtig.

Wie bekomme ich die Apple-KI zum antworten?

Mit „respond“ antwortet die KI auf einen Prompt, den du eingibst. Wichtig: Anders als bei ChatGPT oder Claude kannst du deine Anfrage nicht einfach eingeben, sondern musst ein paar Regeln beachten. Damit dein Prompt funktioniert, musst du einen korrekten Befehl im Terminal eingeben. Ein Beispiels für einen fertigen Prompt:

fm respond “Wer war Angela Merkel?”

Die Eingabe bestätigst du dann erneut mit Enter, dann liefert das Modell dir eine Antwort. Problem dabei: Das Modell kann nicht auf ein Kontextfeld zurückgreifen, was bedeutet, dass es sich nicht an frühere Fragen oder Antworten erinnern kann. Das ist etwas nervig und kommt nicht besonders nah an normale Chatbots heran. Daher kannst du auch einfach „fm chat“ eingeben. Dadurch verändert sich nicht nur das Interface, sondern auch, wie die KI antwortet.

Mit fm chat lassen sich dann auch Texte zusammenfassen, abändern oder Fragen zu Texten stellen. Dafür kopierst du den gewünschten Text einfach in das Eingabefeld rein. Mit dem korrekten Befehl kannst du allerdings auch Markdown-Dokumente an das LLM übergeben – etwa so:

cat ~/documents/test.md | fm respond "Fasse diesen Text zusammen."

Bist du dir bei dem Dateipfad unsicher, kannst du diesen aus dem Ordner in das Terminal ziehen. Das funktioniert übrigens auch bei Bildern.

Für wen eignet sich das Apple-Modell?

Apples lokale Foundation Models richten sich vor allem an App-Entwickler, die KI-Funktionen in ihre Apps integrieren möchten. Für normale User hingegen ist das Modell eher ein nettes, aber simples Offline-Spielzeug. Zudem kann es zwar bei Texten oder der Extraktion von Daten helfen, bleibt aber bei Logik, Mathe oder Code-Generierung ein eher schwaches Tool, das teils zu Halluzinationen neigt.

Das Modell ist übrigens ein anderes als Siri AI – Siri reagiert etwas flexibler dank Cloud-Anbindung und interagiert direkt mit Notizen, Erinnerungen und weiteren Apple-Features. Wer das Modell wirklich sinnvoll einsetzen möchte, der benötigt etwas technisches Wissen im Umgang mit den Terminals, Shells, Python und JSON.

Mehr Infos und Tipps rund um KI findest du hier:

Felix Schneider

Felix Schneider ist seit November 2024 bei Unternehmer.de. Nach seinem Studium der Buch- und Medienwirtschaft in Leipzig und einem ersten Exkurs in den Onlinejournalismus beim PRINZ-Magazin entschied er sich, in der Messestadt zu bleiben. Heute ist er SEO & Autor für Unternehmer.de, News.de und Qiez.de. Hier schreibt er vor allem über neue Technologien wie KI und gibt Insights in die Perspektiven der Gen Z. Auch auf X und LinkedIn zu finden.

Der Artikel hat dir gefallen? Gib uns einen Kaffee aus!