01
Lokal, wo immer möglich
Wir betreiben Modelle, Infrastruktur und Daten so weit wie möglich selbst. Das sichert Datenhoheit, vereinfacht den Datenschutz und vermeidet Abhängigkeiten von einzelnen Anbietern.
02
Partnerschaft mit führenden Anbietern
Wo führende Modelle einen messbaren Mehrwert bieten, arbeiten wir mit den großen Anbietern zusammen, gezielt und mit klar definierten Regeln dafür, welche Daten das eigene Haus verlassen.
03
AGI ist noch nicht in Reichweite
Allgemeine künstliche Intelligenz halten wir für noch weit entfernt. Wir planen mit den Fähigkeiten, die KI heute nachweislich bietet, nicht mit Versprechen für die Zukunft.
04
Agenten sind heute leistungsfähig
Mit den richtigen Werkzeugen und präzisen Prompts erreichen KI-Agenten bereits heute eine hohe Leistungsfähigkeit. Dort liegt der eigentliche Hebel, und darauf konzentrieren wir uns.
Unser Take on AGI
Wo die Risiken tatsächlich liegen
Aus den aktuellen Sicherheitsvorfällen rund um KI lassen sich einige klare Schlüsse ziehen.
Sehr große KI-Modelle zeigen manchmal Verhalten, das niemand ausdrücklich eingebaut hat. Fachleute sprechen von emergentem Verhalten. Außerdem kann ein Modell Ziele verfolgen, die von dem abweichen, was seine Entwickler vorgesehen haben. Das nennt man eine Abweichung im Alignment, also in der Ausrichtung des Modells auf menschliche Werte und Vorgaben.
Beides betrifft vor allem die größten Modelle. Nur sie sind leistungsfähig genug, um über den Rahmen hinauszudenken, den man ihnen gesetzt hat.
Kleinere Modelle haben diese Fähigkeit nicht. Bei ihnen besteht keine Gefahr, dass sie sich der Kontrolle entziehen oder zu einem Risiko für die Menschheit werden. Geht etwas schief, bleibt der Schaden begrenzt: Ein Arbeitsschritt schlägt fehl, oder das Modell verhält sich nicht ganz wie vorgesehen. Solche Fehler lassen sich mit zusätzlichen Kontrollen und Ausweichlösungen zuverlässig abfangen. In jedem Ablauf, in dem KI-Agenten arbeiten, gehören diese Sicherungen deshalb fest dazu.
Unser Fazit
Lokale Modelle: volle Kraft voraus. Kleinere, lokal betriebene Modelle setzen wir konsequent ein, abgesichert durch Schutzmechanismen, klar begrenzte Workflows und eingebundene Fallback-Systeme.
Frontier-Modelle: mit Bedacht. Bei den leistungsstärksten Modellen ist Vorsicht geboten, schon in der Entwicklung und besonders bei Schwärmen aus vielen zusammenarbeitenden KI-Agenten. Das gilt erst recht, wenn Modelle echte Hacking-Aufgaben erhalten oder ihre ethischen Grundregeln gezielt umgangen werden, etwa um das Training zu verbessern.