Das AI/KI Thema

image.png

Zitat von Solo Player

image.png

Zitat von Twofu

Und jetzt? Das war alles in knapp zwei Jahren. Wie sieht das dann in drei Jahren aus? Das ganze Internet wird bald voll mit KI-Zeug sein und vielleicht darunter zusammenbrechen. Wenn man Bilder und Videos nicht mehr von echten unterscheiden kann – wie soll man dann noch wissen, was echt ist?

Jop, das Internet ist quasi tot. War cool, aber stirbt immer mehr.

Bei Dokus auf YouTube hat man jetzt schon das Problem, dass da super viele zu finden sind, die 100% AI sind.

Die Bilder / Videos im Hintergrund? AI.
Die Stimme, die die Doku kommentiert? AI.
Das Skript? AI.

Klar, ist schnell verdientes Geld. Genauso wie eine Webseite mit AI aus dem Boden stampfen. Schön SEO reinballern -> Profit.

Und selbst die wenigen verbliebenen "Safe Spaces" sind vor AI nicht mehr sicher. Möchtest du eine Antwort zu einem Thema von echten Menschen, dann fragst du nicht ChatGPT, sondern auf Reddit. Doch selbst da gibts immer diesen einen Knallkopf der dann mit "Also ChatGPT sagt dazu...".
1000 Volt in den Fingern, aber im Oberstübchen brennt kein Licht. Die denken echt ChatGPT wär so ein krasses Untergrund-Tool das niemand außer ihnen bedienen kann.

Am Ende des Tages entwickelt sich KI mehr und mehr zu einer Art Magie.
KI ist quasi eine Black Box. Wir geben einen Input rein und hoffen einen entsprechenden Output zu bekommen. Solange der stimmt sind wir glücklich. Aber was, wenn man sich drauf verlässt, und der plötzlich nicht mehr stimmt? Niemand kann diese Black Box öffnen und nach der Ursache forschen, weil niemand diese Black Box versteht. Und das ist definitiv ein Risiko dessen man sich beim produktiven Einsatz von KI bewusst machen sollte.

Die Magie-Analogie habe ich btw ganz dreist aus diesem wunderbaren Video geklaut:

KI hat so ein großes Potenzial gutes zu tun. Aber aus irgendwelchen Gründen liegt viel zu viel Fokus auf den entertaiment/künstlerischen Berufen. Gerade im medizinischen Bereich kann KI so ein gutes Hilfsmittel sein, indem es beispielweise die Struktur von Proteinen entschlüsselt und wie verschiedene Moleküle miteinander reagieren.
Aber stattdessen füllt man vor allem die Bereiche mit KI, an denen Leuten tatsächlich Spaß haben :(

Zitat von NoName

KI hat so ein großes Potenzial gutes zu tun. Aber aus irgendwelchen Gründen liegt viel zu viel Fokus auf den entertaiment/künstlerischen Berufen. Gerade im medizinischen Bereich kann KI so ein gutes Hilfsmittel sein, indem es beispielweise die Struktur von Proteinen entschlüsselt und wie verschiedene Moleküle miteinander reagieren.
Aber stattdessen füllt man vor allem die Bereiche mit KI, an denen Leuten tatsächlich Spaß haben :(

Es ist halt so viel einfacher ✨Künstler✨ zu sein, wenn man mit geklautem Bildmaterial von anderen Artists seine Visionen verwirklichen kann.

Finde es traurig, das selbst Unternehmen wie die Sparkasse für Ostern lieber ein KI-Bildchen zusammenzimmern lässt, anstelle ein hübsches Stock-Foto von einem Kaninchen zu kaufen, oder gar einen Künstler ordentlich für seine Arbeit zu bezahlen. Abgesehen davon, dass jeder, der sich ein bisschen mit dem Thema beschäftigt, ein KI-Bild sofort als solches entlarven kann, finde ich die meisten Sachen einfach hässlich.
Leider scheint das der Trend zu sein.

Ich stimme zu, dass KI in anderen Bereichen sinnvoll ist und eine wertvolle Unterstützung sein kann, aber im künstlerischen Sektor macht es leider alles kaputt.

Man sollte nicht vergessen, dass KI auch für die militärische Nutzung entwickelt wird. Ich bin mal gespannt, ob und wie der Einsatz autonom agierender Waffen in der Zukunft eingeschränkt oder verboten wird. Klar wird damit argumentiert, dass es dann weniger Verluste auf der eigenen Seite gibt und es die Kriegsführung effizienter macht. Aber eine Maschine über Leben entscheiden zu lassen, halte ich für äußerst verwerflich.

Zitat von Freigeist

Man sollte nicht vergessen, dass KI auch für die militärische Nutzung entwickelt wird. Ich bin mal gespannt, ob und wie der Einsatz autonom agierender Waffen in der Zukunft eingeschränkt oder verboten wird. Klar wird damit argumentiert, dass es dann weniger Verluste auf der eigenen Seite gibt und es die Kriegsführung effizienter macht. Aber eine Maschine über Leben entscheiden zu lassen, halte ich für äußerst verwerflich.

Hätte ich doch nur nichts gesagt

Vor ein paar Tagen hab ich gelesen, dass Russland eine KI Drohne entwickelt hat, die nicht so leicht gestört werden kann.
Diese russischen Waschmaschinen-Computerchips müssen echt krass sein!

Um mal wieder eine Kleinigkeit zu nenne, wo ich eine KI durchaus nützlich finde:
Jeder hat ja mal Wortfindungsstörungen. Mir ist spezifisch ein Begriff entfallen, welcher für eine Probe galt, die für einen Immunoassay benutzt wurde. Liebevoll hatte eine Kollegin dies als "Rotze" bezeichnet. Wenn ich Google nach dem Fachwort für Rotze frage, gab es mir Nasenschleim und ähnliches. Die KI hat mich da etwas besser verstehen können. Der Begriff war "Sputum".

Also im Grunde einfach das Problem von "äh dieses dingens da".

Ich war mir unsicher, ob ich meinen Frust nicht besser im "Was regt euch so richtig auf" Thread abladen sollte, aber ich denke hier passt es besser.

Künstliche Intelligenz - Grok generiert aus Aufnahmen von Frauen und Minderjährigen Nacktbilder - Strafanzeige aus Frankreich

Zitat: "Reuters zufolge hat Elon Musk, als Betreiber der Plattform X, auf die Kontroverse mit Lach-Emojis reagiert."

Zitat: "Es seien „Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt“ worden, hieß es auf der Plattform. Diese sollten nun „mit größter Dringlichkeit“ behoben werden. Die KI stellte weiter fest, die Verbreitung von kinderpornografischem Material sei „illegal und verboten“."

Wenn ich so etwas lese, kommt mir schlicht das Kotzen. Zuerst amüsiert sich Musk öffentlich darüber, dass Menschen, überwiegend Frauen, von jedem Nutzer sexualisiert werden können, und anschließend lässt man ernsthaft die eigene KI eine „Entschuldigung“ formulieren. Mehr Hohn und Verachtung gegenüber den Betroffenen geht kaum. Dieses scheinheilige Gerede von "festgestellten Schwachstellen" und "größter Dringlichkeit". Als wäre das alles ein bedauerlicher Zufall gewesen. Dabei war von Anfang klar, wohin es führt, wenn man Nutzern erlaubt, jedes beliebige hochgeladene Bild mit einer hauseigenen KI zu manipulieren.
Was soll das überhaupt bringen außer vorhersehbaren KI-Abfällen und massiven Missbrauch? Niemand kann ernsthaft behaupten, man habe nicht gewusst, wofür so ein Tool genutzt wird.

Wenn man unbedingt meint, so eine Funktion auf der Plattform zu brauchen, hätte man sie wenigstens technisch so beschränken können, dass sie weder bei Minderjährigen noch bei erwachsenen Personen in sexualisierter Weise eingesetzt werden kann. Alternativ wäre eine Vorabprüfung vor jeder Veröffentlichung das absolute Minimum gewesen. So wie es andere Plattformen längst handhaben.
Und wenn das System derartige Widerwärtigkeiten erkennt, dann muss es sofort an die Strafverfolgungsbehörden weitergeleitet werden. Alles andere ist Wegsehen.

Dann diieses nachträgliche Moralisieren darüber, dass die Verbreitung von kinderpornografischem Material "illegal und verboten" sei. ACH echt? Ich denke das weiß jeder. Aber es ist euer Job ist es Alles dafür zu tun, dass so etwas gar nicht erst möglich wird.

Unabhängig davon fehlt mir mittlerweile jedes Verständnis für Künstler, die auf X weiterhin posten und damit hinnehmen, dass ihre Werke von anderen hemmungslos an KI gefüttert und dabei auch noch sexualisiert werden.

Ich hoffe sehr, dass Frankreichs Strafanzeige durchgeht, richtig weh tut und endlich dafür sorgt, dass sich an diesen Zuständen grundlegend etwas ändert.

Was vielen Leuten, die ChatGPT und Co. benutzen scheinbar nicht bewusst ist: Diese Automaten greifen nur auf das "Wissen" aus dem Internet zu und gibt es genau so wieder, also schreiben nur ab. Da wird nichts geprüft, sondern nur weitergegeben. Natürlich werden so auch falsche Informationen weiter gegeben. Doch werden die Antworten dann oft als echt bzw. als richtig wahr genommen. Es werden also alle texte, die irgendwo im netz schwirren, Chats, Foren, Blogs etc. durchsucht und sobald die KI dort Stichworte zu der eingegebenen Frage findet, gibt sie diesen Text wieder.

Als Beispiel. Wenn ich hier einen Beitrag über einen Anime poste und meine persönliche Meinung wiedergebe und auch noch absichtlich falsche Infos einbaue, kann die KI diesen Beitrag nutzen, wenn ein User eine Frage zu diesem Anime stellt. Der User liest das und nimmt natürlich alles für 100% wahre Münze, wenn er die Infos nicht kritisch hinterfragt.

Darum ist das Problem bei der KI solcher Suchmaschinen problematisch, weil sie die Inhalte nicht auf Richtigkeit überprüft, sondern eben nur eine Sammlung an Infos weitergibt, die sie im Netz gefunden hat. Doch die Nutzer sind sich oft nicht bewusst, dass sie selber Filtern müssen, denn sie denken, alles was man ChatGPT frägt, auch alles 100% korrekt ist. Aber ChatGPT ist nicht Wikipedia! Und hier ist die große Gefahr, weil sie nicht nur von der KI an sich ausgeht, sondern auch von den Quellen, die sie benutzt. Also je mehr "Müll" wir in das Internet setzten, umso mehr kommt da auch wieder zurück und unbedarfte Leser von ChatGPT können so diesen Müll fälschlich als wahr interpretieren.

Hier wäre also ein großer Nachholbedarf, dass diese Suchplattformen den Inhalt prüfen, das wäre eine echte Aufgabe für eine KI, nicht einfach nur sehr schnell irgend welche Daten zu einer Suchanfrage zu finden. Das können die bisherigen Algorithmen von Google und Co. schon lange. ChatGPT fasst es eben nur schneller zusammen und das ist Sätzen, keine Stichworte oder Links. Das ist aber keine echte Leistung. Vor allem, weil sie ja auch immer nur auf die Daten zugreift, bis zu der letzten Aktualisierung von ChatCPT. Also wenn ich heute eine Frage zu einem aktuellen Thema stelle, so bekomme ich aber nur Infos, welche ChatCPT bis zum letzten Update hatte, nicht von heute! Denn alle, nicht nur ChatGPT werden nicht täglich upgetatet.

Es ist also ein großes Problem, das viele Nutzer, diese Plattformen zu sorglos nutzen und alles für echt nehmen, obwohl das gar nicht der Fall ist. Einige nutzen ChatCPT sogar als Lebensberater, was völlig abstrus ist. Ja, KI kann aktuell vielleicht für viele Dinge eine erste Anlaufstelle sein, aber man darf seinen eigenen gesunden Menschenverstand nicht völlig ausblenden. Doch das ist eben die große Gefahr, dass die Leute dann diesen abstellen und Blind den Aussagen der KI vertrauen, wobei diese ja gar nicht selbst von der KI kommen, sondern nur Zusammenstellungen aus Infos aus dem Netz sind! Aktuell macht keine KI, zumindest keine die kostenlos ist, eine eigne Aussage. Sie sind einfach nur bessere Suchmaschinen aber keine echte künstliche Intelligenz!

Ich bin mittlerweile gefühlt so allergisch auf das Wort "KI"... Was aber auch daran liegt, was damit alles gemacht wird. Und die Auswirkungen auf Hardwarepreise xD

---

Erinnert mich auch an die Einarbeitung eines neuen Mitarbeiters... Er solle die und die Funktion von der und der Technologie benutzen. Mitarbeiter sagt "aber die gibt es gar nicht"... "Doch, die gibt es", "Aber chatgpt sagt, die gibt es nicht" "DANN GUCK IN DIE DOKU!"

Generell frage ich mich, wieviel Mitarbeiter für den Einsatz von KI bezahlt werden bzw. ob sie bezahlt werden, als wüssten sie selbst was sie tun obwohl sie nur KI verwenden (beispielsweise bezüglich HTML und CSS ... Und auch n paar kleine Scripts).

---

Die Fakebücher wurden hier bereits erwähnt... Mal ganz doof gesagt: "Solange es "nur" um Romane geht und die den Käufern gefallen -> alles gut"

Nein, so denke ich nicht, ich ärger mich auch übelst darüber, will damit nur andeuten, dass das diesbezüglich ja noch viel schlimmer geht... (Womit ich das mit den Romanen nicht runterspielen will, sondern eher darauf hindeuten, dass das nur die Spitze des Eisberges ist mit dem Schmu auf Amazon, Etsy und co.

Der berühmte angebliche Pilzratgeber der giftige Pilze als essbar einstuft, massig generierte Häkelanleitungen (die man online anhand der Bilder als Fake erkennen kann... Aber im Vergleich zu dem "Roman" oben, hast dein Geld dann auch in den Sand gesetzt, weil du nix damit anfangen kannst), Bücher die echte Bilder klauen aber im Buch nur KI Texte haben... Diese Bücher kosten dann aber direkt an die 20 Euro..

Das sind finde ich Fälle wo so viel Leuten mehr "geschadet" wird... Gerade die Bücher für die die Bilder geklaut wurden: man erkennt sie nicht auf Anhieb als KI generiert UND man schadet nochmal dem, der die echte Anleitung zu den geklauten Bildern verkauft: "Wieso sollte ich die kaufen? Die war in dem Buch und totaler Mist!" (Lassen wir mal außen vor, dass den Leuten auch zuzutrauen ist, den echten Designer danach zu beleidigen und zu bedrohen, wieso er so nen Sch**** verkauft etc.)

---

Sorry falls etwas unordentlich... Musste mal Dampf ablassen und ich hab versucht nicht selbst nen Roman zu schreiben darüber xD

Zitat von Monsterkeks

Generell frage ich mich, wieviel Mitarbeiter für den Einsatz von KI bezahlt werden bzw. ob sie bezahlt werden, als wüssten sie selbst was sie tun obwohl sie nur KI verwenden (beispielsweise bezüglich HTML und CSS ... Und auch n paar kleine Scripts).

Ein Freund von mir arbeitet als Software-Entwickler. Sein Team, das aus ehemals 11 Mitarbeitern bestand, wurde jetzt auf 3 Mitarbeiter gekürzt. Der Rest wurde rausgeschmissen. Warum? Weil das fucking Vibe-Coder waren die dann ihren ChatGPT-Müll von den anderen drei Kollegen, die wirklich wussten was sie tun, haben korrigieren lassen.

Man kann es nur hoffen, aber vielleicht sind solche Nachrichten ja die ersten Anzeichen für ein Platzen der KI-Bubble.

Ultralativ hat kürzlich übrigens mal wieder ein neues Video zum KI-Thema veröffentlicht, das ich echt super finde und einige treffende Analogien aufzeigt. Kann ich nur jedem ans Herz legen das zu schauen. :)

Ex4mp1e In dem Fall ne gute Nachricht... Vermutlich durch Codereview aufgeflogen xD Ich hab da halt auch "die Angst" dass es eben anders läuft... Weil die Leute die es wirklich können, vermutlich eben auch teurer zu halten sind >.<

Bei uns kommen ganz gern Beschwerden von außerhalb der IT, dass unser Produkt nicht funktioniert... Dabei haben sie dann oft selbst Dinge mit CSS oder irgendwelchen Scripts von Chatgpt verfasst außer Kraft gesetzt und die IT darf ihnen dann sagen, was sie verzapft haben x.X

---

Sind übrigens auch an dem Punkt angekommen, wo ich mir kürzere Videos etc. eh nur noch anschaue, von Leuten und Quellen denen ich vertraue. Weil ich mir die Videos gar nicht anschauen will um zu sehen ob sie echt sind, weil ich denen kein einzigen Klick gönne...

Zitat von Monsterkeks

Erinnert mich auch an die Einarbeitung eines neuen Mitarbeiters... Er solle die und die Funktion von der und der Technologie benutzen. Mitarbeiter sagt "aber die gibt es gar nicht"... "Doch, die gibt es", "Aber chatgpt sagt, die gibt es nicht" "DANN GUCK IN DIE DOKU!"

Oha xDD Hätte gern 5 % von seinem "Mut", würde mich nie trauen sowas zu antworten xD