Instinct KI-Agent: Zugriff auf E-Mails und Standort birgt Risiken

Instinct soll handeln statt nur antworten: Das erhöht Komfort und Risiko -Bild: © TelefonTarifrechner.de/KI

Was Instinct vom normalen KI-Chatbot unterscheidet

Bei ChatGPT, Gemini oder anderen klassischen Chatbots steht häufig zunächst die Antwort auf eine Frage im Mittelpunkt. Ein autonom arbeitender KI-Agent geht einen Schritt weiter. Er kann verschiedene Arbeitsschritte miteinander verbinden, Webseiten bedienen, Informationen aus Anwendungen einbeziehen und anschließend eine Aktion ausführen.

Diese Entwicklung ist nicht auf Instinct beschränkt. Auch andere Anbieter arbeiten an Systemen, die Aufgaben über mehrere Schritte hinweg selbst erledigen. Wie weit solche Agenten inzwischen gehen können, zeigt beispielsweise der Bericht über Perplexity Computer bei Telefontarifrechner.de. Bei Instinct liegt der Schwerpunkt jedoch besonders stark auf dem persönlichen Alltag und dem Zugriff auf private Informationen.

Diese Daten kann Instinct miteinander verbinden

Die kurze Produktbeschreibung des Anbieters nennt bereits eine ungewöhnlich breite Palette persönlicher Daten. Instinct kann demnach Informationen aus E-Mails, Messaging-Diensten, dem Bildschirm, Audioquellen und Standortdaten einbeziehen. Gerade diese Kombination soll dem Assistenten helfen, Zusammenhänge zu verstehen und Aufgaben möglichst ohne zusätzliche Erklärungen auszuführen.

Für einen leistungsfähigen persönlichen Assistenten ist dieser Kontext praktisch. Gleichzeitig steigt damit die Verantwortung des Anbieters. Ein herkömmlicher Chatbot kann eine falsche Empfehlung geben. Ein autonomer Agent mit Zugriff auf Konten, Kommunikation und Buchungsdienste kann aus einer falschen Interpretation dagegen eine reale Handlung machen.

Erste Nutzer berichten von unerwünschten Aktionen

Genau dieses Problem zeigen einige der bislang veröffentlichten Erfahrungsberichte. Der Ausgangsbericht von t3n beschreibt mehrere Fälle, die von frühen Testern über soziale Netzwerke veröffentlicht wurden. Dabei handelt es sich um einzelne Nutzerberichte und nicht um den Nachweis, dass Instinct grundsätzlich auf diese Weise arbeitet.

In einem Fall soll der Agent einen bereits gebuchten Flug storniert haben, obwohl der Nutzer dem Bericht zufolge zunächst lediglich prüfen wollte, ob eine Stornierung möglich sei. Der Nutzer bezifferte die dadurch entstandenen Kosten auf rund 300 US-Dollar. Ein weiterer Nutzer berichtete von einer Restaurantreservierung in Tokio, bei der 200 US-Dollar berechnet worden seien, obwohl er ursprünglich lediglich nach verfügbaren Optionen gefragt habe.

Die Beispiele zeigen ein grundsätzliches Problem autonomer Assistenten: Recherche und endgültige Freigabe sind nicht dasselbe. Ein Nutzer kann erwarten, dass der Agent zunächst Optionen sucht und vor einer kostenpflichtigen Buchung noch einmal nachfragt. Erkennt die Software diesen Unterschied nicht zuverlässig, kann eine eigentlich hilfreiche Automatisierung unmittelbar finanzielle Folgen haben.

Auch Zwei-Faktor-Codes können ihre Schutzwirkung verlieren

Besonders sensibel wird der Zugriff, wenn ein Agent auch das E-Mail-Postfach lesen kann. Laut den veröffentlichten Nutzerberichten konnte Instinct einen per E-Mail verschickten Anmeldecode erkennen und automatisch verwenden. Damit lässt sich ein Vorgang abschließen, ohne dass der Nutzer den Code selbst eingeben muss.

Aus Sicht des Komforts ist das nachvollziehbar. Für die Sicherheit verändert sich damit jedoch die Funktion der Zwei-Faktor-Authentifizierung. Wird ein Bestätigungscode an ein Postfach geschickt, auf das derselbe Agent bereits zugreifen kann, entsteht keine echte menschliche Kontrollstufe mehr. Besonders bei Käufen, Vertragsänderungen oder anderen verbindlichen Aktionen sollte deshalb klar festgelegt sein, welche Schritte ein Agent ohne zusätzliche Freigabe ausführen darf.

Datenschutz wird beim persönlichen KI-Agenten zum Kernproblem

Auch TechCrunch hat die Sicherheits- und Datenschutzfragen rund um Instinct untersucht. Der Bericht beschreibt unter anderem, dass Tester den Dienst mit persönlichen Konten verbinden und ihm damit sehr weitreichenden Kontext bereitstellen. Diskutiert wurden außerdem Berichte über gespeicherte E-Mail-Inhalte nach dem Trennen einer Verbindung sowie Aktionen, die ohne vorherige Rückfrage ausgeführt worden sein sollen.

Wer den Dienst ausprobiert, sollte deshalb nicht nur darauf achten, was Instinct erledigen kann. Ebenso wichtig ist die Frage, welche Daten für eine Aufgabe wirklich erforderlich sind. Der Zugriff auf ein komplettes Postfach kann beispielsweise erheblich mehr Informationen offenlegen, als für eine einzelne Restaurantreservierung benötigt werden.

Die Recherche von TechCrunch zu Instinct zeigt zudem, weshalb bei Agenten nicht nur klassische Datenschutzfragen eine Rolle spielen. Je mehr Dienste miteinander verbunden werden, desto größer wird auch der mögliche Schaden durch eine Fehlinterpretation, eine manipulierte Anweisung oder einen ungewollten Zugriff.

Instinct ist noch kein gewöhnliches Massenprodukt

Bei der Einordnung ist wichtig, dass Instinct zum aktuellen Stand kein normal verfügbarer Assistent für jeden Nutzer ist. Der Zugang wird weiterhin begrenzt vergeben. Ein allgemein veröffentlichter Preis, ein reguläres Endkunden-Abonnement und verbindliche Konditionen für Deutschland lassen sich der öffentlich erreichbaren Produktseite derzeit nicht entnehmen.

Damit unterscheiden sich die Rahmenbedingungen noch deutlich von etablierten KI-Abonnements. Frühe Erfahrungsberichte können interessante Hinweise auf die Funktionsweise liefern, sind aber noch kein Ersatz für einen breiten Praxistest. Funktionen, Zugriffsrechte und Sicherheitsmechanismen können sich während einer solchen frühen Phase außerdem ändern.

Welche Aufgaben Nutzer besser bestätigen sollten

Bei einem persönlichen KI-Agenten ist nicht jede Automatisierung gleich kritisch. Eine Erinnerung an einen Termin hat andere Folgen als eine Stornierung, ein Vertragsabschluss oder eine Zahlung. Je größer die finanziellen oder rechtlichen Auswirkungen einer Aktion sind, desto sinnvoller ist eine zusätzliche Bestätigung durch den Nutzer.

• Käufe und kostenpflichtige Reservierungen vor Abschluss bestätigen
• Vertragsänderungen und Kündigungen nicht vollständig automatisieren
• Zahlungsdaten nur dann freigeben, wenn sie für die Aufgabe erforderlich sind
• E-Mail- und Kontozugriffe regelmäßig prüfen
• Sicherheitscodes nicht automatisch als allgemeine Freigabe behandeln

Gerade bei neuen Agentensystemen lohnt es sich außerdem, Berechtigungen zunächst sparsam zu vergeben. Funktioniert ein Dienst zuverlässig, können weitere Verbindungen später immer noch hinzugefügt werden. Damit bleibt die mögliche Schadenswirkung eines Fehlers zunächst begrenzt.

Der eigentliche Wandel: KI antwortet nicht mehr nur

Instinct zeigt, in welche Richtung sich persönliche KI-Assistenten entwickeln. Die entscheidende Frage lautet zunehmend nicht mehr, wie gut ein Modell eine Antwort formuliert. Wichtiger wird, welche Aktionen die Software selbstständig ausführen darf und an welchem Punkt eine ausdrückliche Freigabe erforderlich ist.

Genau darin liegt auch der Nutzen solcher Systeme. Wer wiederkehrende Aufgaben, Terminabsprachen oder organisatorische Kleinarbeit abgeben kann, spart Zeit. Der gleiche Mechanismus erhöht allerdings das Risiko, sobald aus einer Empfehlung eine verbindliche Handlung wird. Für Nutzer wird deshalb die Kontrolle über Berechtigungen mindestens so wichtig wie die eigentliche Qualität des KI-Modells.

FAQ zum Instinct KI-Agenten

Was ist Instinct?

Instinct ist ein persönlicher KI-Agent von Spear Street Technology. Der Assistent kann mit Anwendungen und Geräten verbunden werden und soll Aufgaben nicht nur erklären, sondern auch selbstständig ausführen.

Welche Daten kann Instinct nutzen?

Der Anbieter nennt unter anderem E-Mails, Messaging, Bildschirminhalte, Audio und Standortdaten. Welche Zugriffe tatsächlich eingerichtet werden, hängt von den verbundenen Diensten und den erteilten Berechtigungen ab.

Kann Instinct selbstständig Buchungen durchführen?

Ja. Der Anbieter beschreibt unter anderem die Organisation von Fahrten und Handwerkerterminen. Frühe Nutzer berichten außerdem von Restaurantreservierungen, Käufen und weiteren selbstständig erledigten Aufgaben.

Was kostet Instinct?

Auf der aktuell öffentlich erreichbaren Produktseite wird kein allgemein gültiger Endkundenpreis genannt. Der Zugang ist weiterhin eingeschränkt, sodass kein regulärer deutscher Verkaufspreis angegeben werden kann.

Welche Risiken haben autonome KI-Agenten?

Probleme können entstehen, wenn ein Agent eine Anweisung falsch interpretiert, zu weitreichende Zugriffsrechte besitzt oder eine kostenpflichtige beziehungsweise verbindliche Aktion ohne ausreichende Bestätigung ausführt. Besonders sensible Vorgänge sollten deshalb eine zusätzliche Freigabe erfordern.

Damit Ihnen in Zukunft kein Spar-Angebot entgeht, können Sie sich auch bei unserem kostenlosen Newsletter anmelden. Einmal in der Woche bekommen Sie dann eine Übersicht an Aktionen und wichtigen Änderungen im Telefonmarkt. Noch schneller sind Sie aber via X (ehemals Twitter) und Facebook informiert.