# Das musst du über KI wissen 🤯 KI Agenten, AGI und Sicherheit

https://www.youtube.com/watch?v=UM-3u8pwBTQ

[00:00] Kein Weg führt mehr an KI vorbei.
[00:02] So viele nutzen mittlerweile täglich KI Chats wie Chat GPT, Google Gemini oder Cloud, aber nur die wenigsten wissen, was wirklich dahinter steckt.
[00:10] Und das kann zum Problem werden, denn KI wird einfach alles verändern in unserem Alltag und im Job.
[00:15] Und genau deshalb ist es so wichtig, sich mit der Technologie auseinanderzusetzen und zu verstehen, wie KI funktioniert.
[00:19] Darum geht's in diesem Video.
[00:21] Das ist der zweite Teil, indem wir über Begriffe und Hintergrundwissen sprechen, was du unbedingt wissen musst.
[00:26] Wie immer alles einfach erklärt, das ist der Plan.
[00:30] Auf geht's.
[00:33] So, eine neue Runde.
[00:34] Es ist wieder Montag.
[00:35] Schön, dass du wieder mit dabei bist.
[00:37] Und in diesem Video will ich dir dabei helfen, künstliche Intelligenz besser zu verstehen.
[00:40] Das ist der zweite Teil und den ersten Teil verlinke ich dir auch noch mal unten in der Beschreibung.
[00:45] Schau da auf jeden Fall auch noch mal rein, weil da geht's mehr um Grundlagen und heute wird's ein bisschen fortgeschrittener.
[00:49] Wir besprechen, was ein Frontier Model ist, was es mit AGI auf sich hat und es geht um Sicherheit und vieles vieles mehr.
[00:57] Wenn du also gerade dabei bist, alles über KI zu lernen, um nicht den
[01:00] Anschluss zu verlieren, dann ist das Video hier für dich.
[01:04] KI Begriffe fliegen gerade durch die Luft, als wären sie selbstverständlich, aber die wenigsten Menschen wissen wirklich, was sie bedeuten.
[01:08] Hast du den Begriff Foundation Model schon mal gehört?
[01:11] Stell dir das ungefähr so vor.
[01:12] Du willst ein Haus bauen und da fängst du ja auch nicht damit an, Ziegel selbst herzustellen.
[01:17] Du kaufst fertige Baumaterialen und baust da drauf auf.
[01:19] Und genauso funktioniert ein Foundation Model.
[01:21] Das ist ein riesiges vortrainiertes KI Modell, trainiert auf enormen Mengen an Text, Bildern und anderen Daten und auf diesem Fundament bauen dann alle anderen Anwendungen auf.
[01:31] Chgpt z.B. ist kein Foundation Model.
[01:34] Das Foundation Model dahinter heißt GPT und dann kommt irgendeine Zahl, die für die aktuelle Version steht und Chat GBT ist der KI Chat, mit dem du auf das Modell zugreifen kannst.
[01:43] Genauso ist Cloud von Antropic die Anwendung, die auf dem Modell Cloud Sonnet oder Clud Opos basiert.
[01:49] Also, wenn du Chat GPT, Gemini oder irgendein anderen KI Chat nutzt, nutzt du eigentlich immer eine Anwendung, die auf einem Foundation Model basiert.
[01:56] Das Fundament ist das Entscheidende, nicht das Haus, was da.
[02:00] Drauf gebaut wurde.
[02:03] Neben dem Foundation Model gibt's auch noch das Frontier Model und die meisten haben gar keine Ahnung, was der Unterschied ist.
[02:08] Und jetzt, wo wir Foundation Models kennen, kommen wir zum Frontier Model.
[02:11] Ein Frontier Model in der KI, also ein Grenzmodell, ist das leistungsstärkste, was es gerade gibt.
[02:15] Die absolute Spitze der KI Entwicklung.
[02:19] Das sind die Modelle, die gerade alles können, was vorher nicht möglich war.
[02:23] Und das aktuell wohl bekannteste Beispiel für ein Frontier Model ist Fable 5 von Entropic.
[02:26] Und jetzt kommt ein Begriff, der in dem Zusammenhang auch sehr, sehr spannend ist.
[02:30] Das SLM, Small Language Model.
[02:33] SLMs sind kompakte, effiziente Modelle.
[02:35] Das ist wichtig zu verstehen, weil viele Unternehmen gar nicht das mächtigste Modell brauchen.
[02:39] Wenn du z.B. ein Kundenservice Board für Online Business baust, reicht oft ein kleines schnelles SLM.
[02:44] Das ist günstiger, schneller und der Trend geht gerade in beide Richtungen gleichzeitig.
[02:48] Es gibt immer mächtigere Frontier Models und gleichzeitig immer bessere kleinere Modelle.
[02:54] Also ganz kurz gesagt, das Foundation Model ist das Fundament, das Basismodell, das Frontier Model ist das stärkste Fundament und das Small.
[03:01] Language Model ist das kleinste, sparsamste Modell.
[03:05] Und die Auswahl der Modelle richtig zu verstehen, das ist extrem wichtig, denn das spart ihr zum einen Zeit und zum anderen auch Geld.
[03:10] Besonders große Unternehmen, die KI einsetzen, verbrennen viel Geld, wenn sie ein zu starkes und damit teures KI Modell unnötigerweise nutzen.
[03:18] Wenn du wissen möchtest, wie du selbst das richtige KI Modell z.B. du in Cloud auswählst, dann habe ich dazu auch schon mal ein eigenes Video gemacht.
[03:25] Das verlinke ich dir auch noch mal unten in der Beschreibung.
[03:26] Wenn du magst, schau da auch gerne noch mal rein.
[03:28] Und bevor wir genau da weitermachen, wenn du das Video bis dahin schon magst, dann freue ich mich sehr über deinen Support, mit einem Daumen hoch und wenn du meinen Kanal abonnierst, nicht vergessen auch die Glocke zu aktivieren, damit du montags kein Video mehr verpasst.
[03:40] Ja, ich weiß, ich wiederhole das hier in jedem Video, weil die Insights einfach zeigen, dass so so viele bei YouTube vergessen, ein Daumen hoch dazulassen und das ist super wichtig für uns Content Creator.
[03:49] Deshalb ist das hier meine Bitte an dich und wenn du mich hier unterstützt, kann ich dir mit meinen Videos auch weiterhin dabei helfen, KI zu verstehen und effizient zu nutzen.
[03:57] Und damit machen wir auch direkt weiter.
[03:59] KI Sicherheit beschäftigt viele und die Frage ist, wie KI sicher genutzt.
[04:03] Werden kann.
[04:05] Und genau in dem Zusammenhang kommen oft auch Begriffe wie Open Source oder Closed Source ins Spiel.
[04:09] Und genau die will ich dir hier mal erklären.
[04:10] Closed Source bedeutet, das Unternehmen behält den Bauplan des Modells für sich.
[04:15] Du kannst z. B. Chatpiele nutzen, aber du weißt nicht genau, wie das innen drin funktioniert und was mit deinen Daten passiert und du bist komplett abhängig von Open AI.
[04:24] Das sind geschlossene Systeme und Open Source bedeutet, das Modell und der Code sind öffentlich.
[04:28] Jeder kann reinschauen, das Modell runterladen, verändern und auf eigenen Servern betreiben.
[04:32] Ihr kennt sicher alle Google Gemini und nutzt da z. B. das Modell Gemini 3.5 Flash.
[04:40] Das ist ein sogenanntes Closed Source Modell.
[04:42] Es gibt von Google aber auch Open Source Modelle und das ist z. B. Jemma 4 und das betrifft alle, die KI nutzen direkt.
[04:49] Wenn du als Unternehmen sensible Kundendaten verarbeitest, dann kann ein Open Source Modell, was du auf deinen eigenen Servern betreibst, die bessere Wahl sein, weil keine Daten nach außen gelangen.
[04:59] Wenn du einfach schnell Ergebnisse brauchst und Datenschutz kein kritisches Thema ist, ist ein Closed Source Tool wie Chat GPT oft bequemer.
[05:06] Und deutlich einfach zugänglicher, weil der Haken bei Open Source ist.
[05:09] Du brauchst technisches Know-how, um die selbst zu betreiben.
[05:13] Die Modelle sind zwar frei, aber der Betrieb, die Wartung und die Anpassung kosten Zeit und Expertise.
[05:17] Also ganz kurz gesagt, Open Source bedeutet mehr Kontrolle, aber auch mehr Aufwand und Closed Source bedeutet mehr Komfort und weniger Transparenz.
[05:25] Und jetzt wechseln wir mal das Thema und kommen zu Prompts.
[05:27] Wir alle wissen, was ein Prompt ist, aber was ist eigentlich ein Systemprompt?
[05:31] Du kennst die normalen Prompts, das sind die Nachrichten, die du an Chat GPT oder z.B. Claude schreibst.
[05:36] Der System Prompt ist was anderes.
[05:38] Das ist die unsichtbare Anweisung, die vor deiner eigentlichen Nachricht steht und das Verhalten der KI grundsätzlich definiert.
[05:44] Stell dir das einfach so vor.
[05:46] Der System Prompt ist so ungefähr wie die Einarbeitung für ein neues Teammitglied.
[05:49] Du sagst der KI einmal: "Du bist ein freundlicher Kundenservice-Assistent für meinen Onlineshop.
[05:55] Du antwortest immer auf Deutsch, bleibst professionell und gibst niemals Rabatte über 10 % ohne Rückfrage."
[05:58] Und ab dann verhält sich die KI bei jedem Gespräch genauso.
[06:03] Wenn du z.B. Chat GPT oder auch Claude im Alltag nutzt, dann kannst du in...
[06:07] Den Einstellungen Informationen, eine eigene Persona und auch Verhaltensregeln hinterlegen.
[06:13] Und das ist quasi dein persönlicher Systemprompt.
[06:15] Unternehmen, die KI Chatbots bauen, nutzen solche Systemprompts, um sicherzustellen, dass der Bot immer im richtigen Ton antwortet, keine falschen Informationen gibt und im Markenstil bleibt.
[06:25] Und da habe ich auch noch einen spannenden Zeit.
[06:26] Manchmal versuchen User auch durch clevere Prompts den Systemprompt eines KI Tools herauszufinden.
[06:33] Und das nennt man dann Prompt Leaking, aber das ist noch mal ein ganz eigenes Thema.
[06:37] Und damit machen wir auch schon den Sprung zum nächsten Begriff und das sind synthetische Daten.
[06:40] Klingt erstmal wie Science Fiction und wenn du KI nutzt, dann solltest du unbedingt wissen, was dahinter steckt.
[06:45] KI Modelle brauchen riesige Mengen an Daten zum Trainieren und das Problem dabei ist, echte Daten sind oft knapp, teuer, datenschutzrechtlich heikel oder schlicht nicht in ausreichender Menge vorhanden.
[06:56] Und die Lösung ist ganz simpel, KI generiert ihre eigenen Trainingsdaten.
[07:00] Ein konkretes Beispiel wäre, du willst ein KI Chatbot trainieren, der Kundenanfragen für deinen Onlineshop beantwortet.
[07:06] Das Problem ist dabei, du.
[07:08] Du hast erst seit 6 Monaten einen Shop, also nur ein paar hundert echte Kundengespräche.
[07:11] Das ist viel zu wenig.
[07:14] Also nutzt du ganz einfach eine andere KI, um tausende realistische synthetische Gespräche zu generieren.
[07:19] Typische Fragen, Beschwerden, Rückgabewünsche und trainierst damit deinen Chatbot.
[07:23] Das bedeutet, KI trainiert KI.
[07:25] Und genau das passiert tatsächlich z.B. bei der Entwicklung von modernen Sprachmodellen.
[07:30] Neuere Modelle werden teilweise mit Daten trainiert, die von älteren Modellen generiert wurden.
[07:35] Der Vorteil ist dabei, die Daten sind günstig, skalierbar und datenschutzkonform.
[07:39] Aber es gibt auch einen Nachteil.
[07:41] Wenn die synthetischen Daten Fehler und Verzerrungen enthalten, dann übernimmt das Modell diese Fehler und genau das verstärkt die Fehler sogar.
[07:48] Und das nennt man Model Collapse.
[07:51] Also diese synthetischen Daten sind ein zweischneidiges Pferd und ein Begriff, der in den nächsten Jahren noch viel viel relevanter wird.
[07:56] Denn was auch passiert ist, dass KI mit Daten aus dem Internet trainiert wird und diese Daten aus dem Internet sind auch sehr sehr oft KI generierte Inhalte.
[08:05] Und damit kommen wir zu einem aktuellen Thema.
[08:07] Viele wollen mit KI Aufgaben automatisieren.
[08:09] Und AI Automation ist sehr, sehr verlockend.
[08:11] Aber was bedeutet das eigentlich?
[08:13] Die Idee dahinter ist ganz einfach.
[08:15] Anstatt einzelne KI Modelle jeweils isoliert für sich selbst zu nutzen, verbindest du die miteinander und automatisierst ganze Arbeitsprozesse ohne eine einzige Zeile Code schreiben zu müssen.
[08:25] Und da gibt's viele konkrete Beispiele Marketing Alltag.
[08:27] Jemand füllt das Kontaktformular auf einer Webseite aus.
[08:31] Automatisch wird eine KI angetriggert, die die Nachricht liest, die Anfrage kategorisiert, eine personalisierte Antwort E-Mail schreibt und die Information ins CM einträgt.
[08:38] Das alles passiert in Sekunden, ohne dass du einen Finger rührst.
[08:43] Es gibt Tools wie Make oder NN, die genau das ermöglichen und da verbindest du einfach verschiedene Apps und KI Dienste visuell miteinander und das ist dann am Ende so ein bisschen wie Legosteine zusammenstecken und das ist aktuell so ein großes Thema, weil AI Workflows die Art, wie wir arbeiten, fundamental verändern wird.
[09:00] Aufgaben, für die früher Stunden gebraucht wurden, laufen jetzt im Hintergrund ganz automatisch ab.
[09:03] Für selbständige und Kleinunternehmen ist das besonders spannend.
[09:07] Du kannst mit KI Workflows Prozesse automatisieren, für
[09:11] Die früher ein ganzes Team gebraucht wurde.
[09:12] Das ist übrigens auch ein großer Teil von dem, worum es geht, wenn wir über KI Agenten sprechen.
[09:18] Darum ging es ja auch in Teil 1 von diesem Video und diese Agenten sind oft genau das: automatisierte Workflows, die selbständig Entscheidungen treffen.
[09:25] Und das Spannende ist, das wird gerade immer einfacher und du brauchst dafür oft nicht mal Tools wie Make oder n8n, weil viele Tools direkte Schnittstellen anbieten.
[09:32] Das funktioniert unter anderem über MCP und was das ist, habe ich ja auch schon im ersten Teil von dieser Videoserie hier erklärt.
[09:38] Und von AI Automation kommen wir jetzt zu Multiagentensystemen.
[09:41] Im ersten Teil von dieser Videoserie haben wir ja schon über KI Agenten gesprochen, also KI Systeme, die selbständig Aufgaben erledigen können.
[09:49] Und heute gehen wir da ein Schritt weiter und beantworten die Frage: Was sind KI Multiagenten?
[09:55] Eigentlich ist das genauso wie im Unternehmen.
[09:56] Ein Mensch allein kann nicht gleichzeitig im Vertrieb, im Marketing und der Buchhaltung arbeiten.
[10:01] Und deshalb gibt's Teams mit spezialisierten Mitarbeitenden, die miteinander kommunizieren und zusammenarbeiten.
[10:06] Und genau das ist ein Multiagentensystem.
[10:08] Anstatt einem einzelnen KI-Agenten, der alles alleine macht,
[10:12] Arbeiten mehrere spezialisierte KI-Agenten zusammen.
[10:14] Einer recherchiert, einer schreibt, einer prüft, einer publiziert und die kommunizieren miteinander, teilen Ergebnisse und greifen ineinander.
[10:23] Es gibt bereits Unternehmen, die Software komplett von Multiagentensystem entwickeln lassen und das ist so wichtig zu verstehen, weil Multiaagentensysteme die nächste große Welle in der KI Entwicklung sind.
[10:32] Wir gehen gerade weg von einzelnen Chatinfaces hin zu ganzen KI Teams, die komplexe Aufgaben arbeitsteilig lösen.
[10:39] Dabei ist der Unterschied zum AI Workflow, der ist oft star vorgegeben.
[10:43] Also es gibt Schritt 1, Schritt 2, Schritt 3.
[10:47] Ein Multiagentensystem ist viel flexibler und die Agenten entscheiden selbst, wer was macht und wann.
[10:51] Und bevor wir uns mit AGI und dem Thema Sicherheit beschäftigen, wenn du das Video magst, dann freue ich mich sehr über deinen Support, mit einem Daumen hoch und wenn du meinen Kanal abonnierst.
[10:58] Nicht vergessen auch die Glocke zu aktivieren, damit du montags kein Video mehr verpasst.
[11:04] Jetzt kommen wir zu einem Thema, das klingt erstmal wie Philosophie, aber das hat absolut praktische Relevanz.
[11:07] AI Alignment und Guard Rails.
[11:10] AI Alignment ist ein.
[11:12] Forschungsbereich, der sich mit der Frage beschäftigt, wie stellen wir sicher, dass KI Systeme das tun, was wir wollen und nicht etwas, was uns schadet.
[11:20] Das klingt jetzt vielleicht erstmal trivial, aber das ist ein sehr, sehr großes Problem in der KI Forschung.
[11:25] Nick Bostrum ist ein schwedischer Philosoph und der hat dazu ein sehr berühmtes Gedankenexperiment gemacht.
[11:30] Du sagst einer super intelligenten KI, sie soll Büroklammern produzieren.
[11:33] Die KI optimiert darauf so konsequent, dass sie beginnt alle verfügbaren Ressourcen, inklusive Menschen, in Büroklammern umzuwandeln.
[11:39] Also die KI hat genau das gemacht, was du gesagt hast, aber nicht, was du gemeint hast.
[11:44] Und das ist natürlich erstmal übertrieben, aber es beschreibt das Kernproblem.
[11:46] Wie sorgen wir dafür, dass KI unsere tatsächlichen Absichten versteht und nicht nur unsere wörtlichen Anweisungen befolgt?
[11:53] AI Alignment ist deshalb ein riesiges Forschungsfeld.
[11:55] Unternehmen wie Entropic, die Firma Henter Claud haben ihren Gründungsauftrag explizit darauf ausgerichtet, sichere und kontrollierbare KI zu bauen.
[12:04] Und das bringt uns zu den Guard Rails, also den Lightplanken.
[12:06] Guard Rail sind die konkreten technischen und inhaltlichen Schranken, die KI Unternehmen in ihre Modelle einbauen.
[12:11] Sie definieren, was
[12:13] Ein Modell sagen darf und was nicht.
[12:15] Darf die KI Anweisungen für gefährliche Substanzen geben?
[12:17] Nein.
[12:19] Darf sie extremistische Inhalte produzieren?
[12:21] Nein.
[12:21] Das sind Guard Rails.
[12:24] Guardrails sind also die praktische Umsetzung von AI Alignment.
[12:25] Alignment ist das Ziel.
[12:28] Guardrails sind ein Werkzeug auf dem Weg dahin.
[12:30] Und das ist gar nicht so einfach.
[12:32] Die Balance ist wirklich komplex.
[12:34] Zu enge Leitplanken machen eine KI nutzlos, zu weite Leitplanken machen sie gefährlich.
[12:37] Und das ist eine sehr, sehr große Herausforderung für die großen Techunternehmen und das bringt uns zu einem wichtigen Thema, womit sich alle großen KI Unternehmen gerade beschäftigen.
[12:46] AGI und das bedeutet Artificial General Intelligence.
[12:48] Alle KI Tools, die wir heute kennen, Chat GPT, Claw, Gemini, sind extrem gut in bestimmten Aufgaben, aber beschränkt.
[12:57] Chat GPT kann Texte schreiben, aber es kann kein Auto fahren.
[13:01] Ein heutiges Modell kann also zwar Text, Bilder und Sprache verstehen, aber es kann nicht eigenständig in der Welt handeln.
[13:04] AGI wäre eine KI, die alles kann, was ein Mensch kann und zwar flexibel, ohne für jede neue Aufgabe neu trainiert werden zu müssen.
[13:13] Noch existiert AGI nicht.
[13:15] Aber das ist das erklärte Ziel der großen KI-Labore der Welt.
[13:18] Die Chefs der großen KI-Unternehmen sind sich nicht richtig einig, wann das Ziel erreicht wird, was aber klar ist: Die Entwicklung geht schneller voran, als jeder erwartet hat.
[13:26] Und jetzt mal ganz ehrlich, ob AGI in zwei oder in zehn Jahren kommt, die Frage, wie wir damit umgehen, die müssen wir uns ganz dringend schon jetzt stellen.
[13:34] Und ich glaube, mit den Themen, die wir heute besprochen haben, ist wohl allen klar, dass KI viel, viel mehr ist, als eine Nachricht an KI-Chat zu schreiben und dass es wichtig ist, dass wir uns alle viel, viel mehr damit auseinandersetzen, weil es enorme Chancen, aber auch große Risiken birgt.
[13:48] Gib mir gerne ein Zeichen in den Kommentaren, wenn du dir noch einen weiteren Teil wünscht.
[13:51] Damit vielen, vielen Dank, dass du das Video wieder bis zum Ende geschaut hast.
[13:54] Wenn du magst, hier gibt's noch zwei spannende Videos.
[13:56] Schau da gerne weiter.
[13:57] Und jetzt wünsche ich dir eine schöne Woche und freue mich, wenn wir uns nächsten Montag hier wiedersehen.
[14:00] Mach's gut, bis dann.