14. Oktober 2026:
Großes Thema im Moment: Wie gefährlich ist KI? Ständig Meldungen
über ausgebrochene KI Agenten, die Unternehmen oder gar Staaten hacken.
Ich frage mich: Was genau bedeutet „ausgebrochen“? Wie sicher war die KI denn verwahrt?
Um es bildlich zu machen: Sagen wir mal, die KI ist ein Büffel. Ist dann die Umgebung, in der sie operiert, eher eine gemalte Linie auf dem Boden, die das Tier nicht übertreten soll, oder reden wir von Elektrozaun mit Stacheldraht?
Im Falle des Einbruchs in Australiens Krankenversicherungssystem lautete der Auftrag der KI, Daten über öffentliche Ausgaben im medizinischen Bereich zu untersuchen. Und das hat sie gemacht. Gründlich. Hat ihr jemand gesagt, dass sie dabei keine Regeln brechen darf? Und wie die Regeln aussehen?
Mir macht das deutlich: Wir müssen sehr viel sorgfältiger die Rahmen abstecken, innerhalb derer KI operieren kann. Vielleicht wird es Zeit für KI-Psychologie. Sie mag zwar nicht denken und fühlen, aber sie verarbeitet und sie agiert. Also sollten wir herausfinden, wie wir ihr wirksam Grenzen setzen. Bald.
17. Juli 2026
Ich habe den Eindruck, wir haben mittlerweile aufgehört, mit offenem Mund zu staunen, was die KI jetzt wieder neues kann. Der Fokus hat sich verlagert, hin zu der Fragen: Können wir noch mithalten? Was sollten wir der KI erlauben? Und wie verhindern wir, dass wir die Kontrolle verlieren?
Das erstreckt sich über mehrere Dimensionen:
Auf organisatorischer Ebene stellen sich Fragen zu KI-Governance. Dazu mehr in diesem Abschnitt: 🤖AI and I - Unternehmen bemühen sich darum - beziehungsweise Security-Experten weisen darauf hin, dass sie sich darum bemühen sollten - einen Überblick zu schaffen, welche KI Workflows in ihrer Organisation bereits existieren und welche tatsächlich genutzt werden, auf welche Daten die KI zugreifen kann, wie eigenständig sie operiert und wo eine menschliche Überprüfung (Human-in-the-loop - HITL) zwingend vorgeschrieben ist.
Wer zum Thema KI-Security-Audit weiterlesen will, den empfehle ich diesen Aritkel auf dem Zapier Blog:
Auf gesellschaftlicher Ebene diskutieren wir die Regulierung der KI-Branche. Die EU ist traditionell gut darin, Dinge zu regulieren und mit dem AI Act ist der Rahmen für KI Regulierung gesetzt. Hier kann sie eine Vorreiterrolle übernehmen.
Und während die US-Regierung aktuell nicht bereit ist, die Branche in irgendeiner Form zu regulieren, wächst die Forderung danach in der Bevölkerung. Für mich überraschend sind es vor allem junge US Amerikaner:innen, die sich die meisten Sorgen um eine ungebremste KI-Entwicklung machen und eine stärkere Regulierung fordern. Vielleicht, weil sie KI - berechtigter- oder unberechtigterweise - verantwortlich für ihre derzeit eher düsteren Jobaussichten machen. Aber sie sorgen sich auch um Energie- und Wasserverbrauch. Und darum, dass die zunehmende Nutzung von KI ihr Denken vereinfacht und sie letztlich dümmer macht. Also fordern sie eine besonnenere Entwicklung, wollen eine Debatte darüber, welche Entwicklungen sinnvoll sind und welche nicht.
Human in the Loop also – auch im gesamtgesellschaftlichen Maßstab.
Es passiert mir nicht oft dieser Tage, wenn es um gesellschaftliche Entwicklungen geht, aber: Ich bin optimistisch. KI ist überall, jeder denkt darüber nach, hat eine Meinung dazu oder auch viele. KI beschäftigt alle, ob man sie nutzt oder nicht. Es gibt unzählige Fragen, jede Menge Möglichkeiten, visionäre und kritische Stimmen. Und das sind doch gute Voraussetzungen für eine Debatte, oder?
Deshalb bin ich zuversichtlich. Wir werden einen guten Umgang mit KI in finden.
30. April 2026:
Da nun die KI viele unserer Aufgaben viel schneller erledigt als wir, könnten wir uns doch wieder mehr Zeit für Tätigkeiten nehmen, die Fokus und Konzentration erfordern, Kreativität und Innovation. Ich möchte fast sagen: Tätigkeiten, die Muse erfordern. Das braucht allerdings mehr als einen technologischen Wandel, das braucht einen Kulturwandel.
Ich halte das nicht für ausgeschlossen. Auf der einen Seite scheint unsere Konzentrationsfähigkeit in den letzten Jahren mehr und mehr zurückzugehen. Auf der anderen Seite beschäftigen sich immer mehr Menschen mit Achtsamkeit und versuchen einen bewussten Umgang mit den Dingen in ihr Leben zu integrieren. Es ist also noch nichts entschieden - und das heißt, wir können alle noch mit beeinflussen, in welche Richtung sich das Pendel bewegt.
Wer hier schreibt:
Yvonne Jacob
Auf meinem Weg von der Konzernwelt zur Wirtschaftspsychologin hat mich eine Frage immer begleitet: Wie gelingt Selbstorganisation im echten Leben – nicht um immer schneller zu werden, sondern um auch mal sagen zu können: Das war genug für heute!
Heute teile ich meine Erfahrungen in Workshops, Mentoring und Texten, um anderen zu helfen, ihre Ziele mit ihrem Alltag in Einklang zu bringen.
Mehr über mich
Etwas kürzer, dafür regelmäßig, schreibe ich in meinem Newsletter. Darin bekommst du Tipps und Impulse rund um Selbstorganisation und erfolgreiche Zusammenarbeit im Team. Und auch immer ein Update, wenn es etwas Neues auf dem Blog gibt.
Lies doch mal rein!
![How to Conduct an AI Agent Security Audit [+ Checklist]](https://images.spr.so/cdn-cgi/imagedelivery/j42No7y-dcokJuNgXeA0ig/19e04844-8c8f-4f26-b71c-152aed0556e6/security-hero-green/w=1920,quality=90,fit=scale-down)
Virtuelle Zusammenarbeit: Gemeinsame Ziele festlegen
