Die Vorstellung klingt verlockend: Ein digitaler Assistent, der für uns plant, bucht, organisiert und dabei noch eloquent kommuniziert. Doch OpenAI-Chef Sam Altman mahnt bei seinem neuen ChatGPT Agent zu einem bedachten Einsatz. Wie sicher ist der smarte Helfer wirklich?
Der ChatGPT Agent ist ein Mix aus Operator, Deep Research und den bewährten Sprachfähigkeiten von ChatGPT. In Summe soll er eine „neue Stufe der Leistungsfähigkeit“ erreichen und komplexe Aufgaben übernehmen können. Klingt beeindruckend – und das ist es auch. Doch Altman warnt: Wer den Agent für hochrangige Zwecke oder mit persönlichen Daten füttert, sollte Vorsicht walten lassen. Die Gefahr, dass böswillige Akteure ihn austricksen, sei real. Er empfiehlt, dem Agenten nur den absolut notwendigen Zugriff zu gewähren – also Kalender statt Kreditkarte.
Besonders brisant: Der Agent könnte auf eine manipulierte E-Mail hereinfallen und sensible Daten preisgeben. Für einen Angreifer reiche ein simpler Textprompt aus, um den Helfer zu kompromittieren. Ein unschöner Gedanke, gerade weil KI-Modelle wie dieser nach wie vor anfällig für Jailbreaks, Injections und gezielt gestreute Falschinformationen sind. OpenAI selbst hat zwar nach eigenen Angaben Sicherheitsmaßnahmen implementiert – deren Wirksamkeit bleibt aber offen.
Und trotzdem: Der ChatGPT Agent kann ein praktischer Begleiter sein, wenn er mit Bedacht eingesetzt wird. Ob beim Outfitkauf für die Hochzeit, der Buchung der Anreise oder der Auswahl eines passenden Geschenks – all das funktioniert, solange der Mensch das letzte Wort behält. Auch Datenanalysen und Präsentationen kann der Agent gut vorbereiten, solange die Daten sorgsam ausgewählt werden.