Im Hype rund um KI verlieren viele den Bezug zur Realität. Handelt es sich dabei um Vorgesetzte kann das für die Untergebenen ein massives Problem werden
Im Hype rund um KI verlieren viele den Bezug zur Realität. Handelt es sich dabei um Vorgesetzte kann das für die Untergebenen ein massives Problem werden
Ich habe gerade ein sehr interessantes, gehaltvolles und auch gut geschriebenes und designtes Buch gelesen, das u.A. erklärt, warum die LLMs manche Leute so obsessiv werden lassen:
Baldur Bjarnason, The Intelligence Illusion, ISBN 978-9935-449-16-0 (Link)
Kurz gesagt sind es:
Teils sind diese Eigenschaften prinzipbedingte Eigenschaften der “generativen AI”. Teils wohl auch gezieltes Design durch die Tech-Konzerne, ähnlich wie z.B. die Facebook-Software ganz bewusst als “addictive by Design” gestaltet ist.
Ingesamt führt dass bei den Betroffenen dazu, dass das LLM nicht nur als bewusst sondern superintelligent wahrgenommen wird. Die offensichtliche Unfähigkeit, die diese Systeme mit einfachsten logischen Aufgabenstellungen haben (“Ich will mein Auto waschen. Die Waschanlage ist 500 Meter weit weg. Soll ich zu Fuss gehen oder mit dem Auto fahren?”), wird übersehen. (Vielleicht weil bestimmte Computersysteme, wie Algebra-Expertensysteme, Schachcomputer, oder numerische Wettermodelle erstaunliche Leistungen vollbringen - diese aber mit generativer AI bzw. LLMs rein gar nichts zu tun haben)
Llms haben zudem alle jemals erschienenen Bücher über Kulte, Selbstverbesserung, “How to influence people” und anderen Mist gefressen. Jede LLM hat das Wissen von Generationen von Schlangenölverkäufern, “Coaches” und anderem Gschwärl. Und viele Leute in Leitungspositionen sind für sowas anfällig
Da frag ich mich tatsächlich, ob die LLMs diese Techniken denn umsetzen können. Es ist ja nicht so als könnten sie den Inhalt verstehen, ich würd davon ausgehen, dass nur der Stil und Inhalt in die eigene Redensart aufgenommen, aber nicht angewandt wird. Andererseits sind diese Bücher wahrscheinlich auch schon in einer Art geschrieben, dass die Lesenden überzeugt werden sollen, dass der ganze Inhalt wahnsinnig klug und kompetent ist.
Ein Fleischwolf muss auch keinen Magen, Bewusstsein, oder Geschmacksinn haben, um was mit dem Fleisch-Input anzustellen. Genauso wie ein Diktierprogramm nicht intelligent sein muss, um Luftschwingungen in Text zu verwandeln.
Die LLMs werden keine verständnisbasierte Veränderungen machen, aber das ist oft nicht nötig damit das Ergebnis plausibel wirkt.
Die Modelle können auch Texte der Nutzer unaufgefordert umfärben.
Davon abgesehen gibt es bei den rechten Tech-Bros wie Musk auch eine starkes Interesse an kulthafter Propaganda. Firmen wie Facebook und Tesla wirken ja selber schon wie Sekten.
Fehlt da ein Po?
yup