AI generierte Inhalte

Aztlan schrieb:

Ein anderer Punkt wo KI schon nicht zu ersetzen ist' ist das Militär. Die Ukraine setzt die Technologie sehr geschickt ein zb in der Feindaufklärung und um Angriffe zb Mörser Salven zu koordinieren etc.

Zum Vergrößern anklicken....

Das gibt es natürlich auch. KI kann eine große Hilfe sein. Erst vor kurzem habe ich bei uns in der lokalen Zeitung einen Bericht gelesen, in dem KI in einer medizinischen Einrichtung genutzt wurde, um für die zahlreichen Bewohner die Mahlzeiten genau zu erfassen und zu verarbeiten. Aus dem Bericht ging hervor, dass die Mitarbeiter sehr zufrieden damit sind, da Patienten oft individuelle Wünsche haben. Zuvor sei es nämlich öfter zu Problemen gekommen.

Bei KI verhält es sich ähnlich wie mit anderen Dingen: Sie kann genauso missbraucht werden.

Ein Problem ist, dass kein Mensch mehr KI Algorithmen versteht und es somit immer schwieriger wird, Verhalten korrekt vorherzusagen. Dass man jetzt zur Untersuchung ähnliche (indirekte) Verfahren vorschlägt wie bei der fMRT und im Gehirn, nämlich schauen, welche Parameter (analog zu Gehirnarealen) je nach Input (analog zu Reizen) aktiv werden, ist schon ironisch.

Wie sagte einer in den Kommentaren sinngemäß: Wir verstehen immer noch nicht wie unser Gehirn funktioniert, fangen jetzt an, dieses künstlich nachzubauen, und verstehen das nun auch nicht mehr.

Antiriad schrieb:

Bei KI verhält es sich ähnlich wie mit anderen Dingen: Sie kann genauso missbraucht werden.

Zum Vergrößern anklicken....

Im Gegensatz zu Drogen, Medikamenten, Alkohol, Nikotin oder Schusswaffen sind AI-Algorithmen komplett unreguliert. Die Tools sind frei und in großen Teilen kostenlos verfügbar, komplizierte Anleitungen sind aufgrund von sehr nutzerfreundlichen Benutzeroberflächen praktisch obsolet und von allen technischen Verständnishürden befreit.

AI kann nicht genauso wie andere Dinge missbraucht werden, sondern es ist VIEL einfacher und leichter.

icebär schrieb:

Im Gegensatz zu Drogen, Medikamenten, Alkohol, Nikotin oder Schusswaffen sind AI-Algorithmen komplett unreguliert. Die Tools sind frei und in großen Teilen kostenlos verfügbar, komplizierte Anleitungen sind aufgrund von sehr nutzerfreundlichen Benutzeroberflächen praktisch obsolet und von allen technischen Verständnishürden befreit.

AI kann nicht genauso wie andere Dinge missbraucht werden, sondern es ist VIEL einfacher und leichter.

Zum Vergrößern anklicken....

Zumindest in der Klinik wird diese Problematik aber immerhin erkannt und diskutiert, das hat der weiter oben erwähnte Workshop gezeigt. Die Idee wäre beispielsweise , bei jeder KI gestützten Diagnose einen Beipackzettel dazu zu packen, anhand dem klar erkenntlich wird wofür die KI verwendet wurde, womit die KI trainiert wurde, was die KI kann und was sie nicht kann.

KI zu verteufeln oder, wie in Dune nach dem Butlerian Djihad, komplett zu verbieten halte ich für nicht zielführend, aber man sollte nicht blauäugig sein und die Gefahren und Risiken ignorieren.

@Dr. Sol Das meinte ich gar nicht.

Missbrauch ist ja bereits das Schreiben lassen von Hausaufgaben per ChatGPT. Oder das Fälschen von Bild-, Audio- und Videomaterial mit Täuschungsabsicht, wie es mittlerweile in Presse, Politik und Wirtschaft en vogue ist. Das ist mittlerweile so lächerlich einfach geworden, dass es bereits alle Kommunikationskanäle mit total hirnloser Kacke geflutet hat.

icebär schrieb:

@Dr. Sol Das meinte ich gar nicht.

Missbrauch ist ja bereits das Schreiben lassen von Hausaufgaben per ChatGPT. Oder das Fälschen von Bild-, Audio- und Videomaterial mit Täuschungsabsicht, wie es mittlerweile in Presse, Politik und Wirtschaft en vogue ist. Das ist mittlerweile so lächerlich einfach geworden, dass es bereits alle Kommunikationskanäle mit total hirnloser Kacke geflutet hat.

Zum Vergrößern anklicken....

Oder, wie weiter oben im Video erklärt, sich Anleitungen zum Bau von Chemiewaffen erstellen lassen (die auch wirklich funktionieren würden).

Die Frage ist nur, ob es für Regulierungen bereits zu spät ist. Zum Teil wurde ja längst der Source Code und Trainingsdaten öffentlich zugänglich gemacht.

Edit: Es ist irgendwie auch ein kurioser Nebeneffekt dass KI ineffizienter zu werden scheint sobald man anfängt, moralische Richtlinien im Training einzubeziehen.

Dr. Sol schrieb:

Die Frage ist nur, ob es für Regulierungen bereits zu spät ist.

Zum Vergrößern anklicken....

Denke ich nicht. Nur müssen sich erst noch Erkenntnisse herauskristallisieren aufgrund derer man eine praktische Philosophie entwickeln kann. Lernen durch Schmerz muss es jetzt halt sein, weil die vorhergehenden Ermahnungen in Hinsicht auf das Gefahrenpotential gänzlich verpufft und durch Leute wie Trump und Musk faktisch negiert wurden.

Dr. Sol schrieb:

Oder, wie weiter oben im Video erklärt, sich Anleitungen zum Bau von Chemiewaffen erstellen lassen.

Zum Vergrößern anklicken....

Ich verstehe von Chemie gerade so viel, dass ich weiß, dass man sich bei laienhaftem Umgang eher selbst anzündet, in die Luft jagt oder vergiftet, als was Brauchbares zustande zu bringen. Und viele Chemikalien als Ausgangsstoff für andere Produkte sind ja zum Glück einer strengen Regulierung unterworfen.

@icebär Vielleicht wäre es tatsächlich gar nicht verkehrt wenn die AI Bubble platzt, einige Tech Companies pleite gehen und Grundlagenforscher wieder Zeit gewinnen, zu verstehen was da eigentlich genau passiert.

KI wird nicht mehr weg gehen und wird für viele ein Werkzeug im Berufsalltag und der Wissenschaft werden, da muss man sich keine Illusionen machen. Die Geschwindigkeit, mit der das ganze passiert, ist es, die zur Diskussion steht.

Ein Problem was KI auch hat, und da stimme ich Kritikern zu, ist dass der ungebremste Raubtier Kapitalismus dazu neigt, solche Technik zu missbrauchen.

Die KI Tools, die es heute schon gibt und die gerade entwickelt werden, haben das Potenzial, die Arbeit von Radiologen massiv zu erleichtern. Sie könnten auch die Akzeptanz von MRT Flussmessungen (mein Fachgebiet) erhöhen. Aktuell ist die Auswertung solcher Messungen mit so viel Arbeit verbunden, dass sich die meisten Kliniken dagegen sträuben. KI ändert das, weil mittlerweile Auswerte Verfahren immer mehr automatisch ablaufen.

Wird das die Arbeit von Radiologen langfristig erleichtern? Man wird sehen. Bei den chronisch knappen Kassen und der schmalen Budgetierung muss man ja schon befürchten dass dann einfach in vielen Krankenhäusern das Radiologen Team um X Personen reduziert wird, weil die jetzt ja bessere Tools haben. Wenn man den Weg einschlägt haben Radiologen (oder andere) mehr und nicht weniger Arbeit auf dem Schreibtisch.

Ich hoffe nicht dass man diesen Weg einschlagen wird. Aber zu befürchten ist es so lange Neo Liberale, Linkedin Gurus und Tech Bros das Sagen haben.

Aber da sind wir dann halt auch bei dem Aspekt, dass Kliniken meiner Ansicht nach nicht wie Wirtschafts Unternehmen geführt werden sollten.

Routinearbeit klingt auf den ersten Blick langweilig. Immer wieder dieselben Aufgaben zu erledigen, wirkt eintönig und wenig spannend. Doch oft steckt gerade darin eine wichtige Quelle der Kreativität. Wer eine Tätigkeit regelmäßig ausführt, entwickelt mit der Zeit ein sicheres Gefühl dafür. Die Handgriffe werden selbstverständlich, und man muss nicht mehr über jeden Schritt nachdenken. Dadurch entsteht Raum für neue Ideen. Beim Arbeiten merkt man plötzlich, dass sich etwas verbessern lässt oder dass es vielleicht einen einfacheren Weg gibt.

Kreativität entsteht selten aus dem Nichts. Sie wächst aus Erfahrung und genauem Beobachten. Wer seine Arbeit gut kennt, sieht, was funktioniert und was nicht. Durch Wiederholung entdeckt man Muster und Zusammenhänge, die einem sonst entgehen würden. So entstehen oft neue Lösungen oder Verbesserungen, die aus der täglichen Praxis heraus geboren werden.

Wenn Künstliche Intelligenz viele dieser Routineaufgaben übernimmt, kann das auch Nachteile haben. Menschen verlieren dann möglicherweise den direkten Kontakt zu den Abläufen, aus denen Ideen entstehen. Außerdem besteht die Gefahr, dass der Einsatz von KI langfristig zu einer stärkeren Arbeitsverdichtung führt. Viele Unternehmen nutzen die Technik, um Zeit und Kosten zu sparen. Dadurch bleibt oft nicht mehr Entlastung, sondern es wächst der Druck, immer mehr Aufgaben in kürzerer Zeit zu bewältigen.

Deshalb sollte KI so eingesetzt werden, dass sie unterstützt, ohne den Menschen das Lernen, Nachdenken und Erfinden zu nehmen. Denn echte Kreativität entsteht aus Erfahrung, und Erfahrung sammelt man im Alltag, mitten in der Routine.

Sam Rockwell schrieb:

Wenn Künstliche Intelligenz viele dieser Routineaufgaben übernimmt, kann das auch Nachteile haben.

Zum Vergrößern anklicken....

Sag das dem Staubsauger, der Waschmaschine, der Spülmaschine, der Nudelmaschine, der Küchenmaschine, der Bohrmaschine, der Stich-, Kreis- und Tauchsäge, der Heizung und dem warmen Wasser aus dem Hahn, dem Herd, Backofen, dem Bügeleisen und der Nähmaschine, dem Laser- oder Tintenstrahldrucker, dem Taschenrechner, der Nachttischlampe und dem Rasierapparat?

Das lässt sich auch alles mit der Hand und einfachsten Werkzeugen und Materialien machen. Dafür bezahlt man aber mit Zeit und Komfort. Sind wir heute die schlechteren Maschinenmenschen, als noch vor 100 Jahren? Vor 200 Jahren? Oder 400?

Das ist so was von 2001: A Space Odyssey

Hm. Ich sehe ehrlich gesagt nicht wie beispielsweise das Ziehen von Kreisen (segmentieren von CT- oder MRT Bilddaten) die Kreativität fördert. Man lernt irgendwann die Tricks und Abkürzungen der Auswerte Software, das war es aber auch schon. Jeder (einschließlich ich) fängt an, diese Arbeit innerhalb kurzer Zeit zu hassen, weil das einfach nur stupide ist.

Genau für solche Jobs ist KI eigentlich ursprünglich gedacht gewesen.

Kreativität entsteht selten unter Druck oder in Momenten, in denen unser Gehirn vollständig mit neuen oder anspruchsvollen Aufgaben beschäftigt ist. Wenn wir zum Beispiel unsere ersten Fahrstunden nehmen, ist unsere ganze Aufmerksamkeit auf das Fahren gerichtet: auf Kupplung, Blinker, Schilder, Verkehr. Unser Bewusstsein ist voll ausgelastet, da bleibt kein Raum, um frei zu assoziieren oder neue Ideen zu entwickeln.

Ganz anders ist es, wenn wir etwas tun, das uns vertraut und fast automatisch geworden ist, etwa beim Spazierengehen, Laufen oder unter der Dusche. Solche Tätigkeiten sind monoton, aber sie lassen dem Geist Raum, zu schweifen. Dann tritt das ein, was man „Muße“ nennt: eine entspannte, offene Aufmerksamkeit, die weder gelangweilt noch überfordert ist. In dieser geistigen Leere können Gedanken frei wandern, sich neu verbinden und so entstehen kreative Einfälle.

Kreativität braucht Muße, nicht Daueranspannung.

Neue Ideen kommen eher, wenn man läuft und die Gedanken schweifen lässt, als wenn man in einem Moment voller Anspannung und Reizüberflutung steckt, wie beim Autofahrenlernen.

Aber jeder Job ist unterschiedlich. Es gibt durchaus Bereiche, die sicher von KI übernommen werden können, ohne, dass es große Einbußen gibt. Ich arbeite tatsächlich im Kreativbereich, und selbst bei mir gäbe es die.
Darüber hinaus habe ich KI sogar schon als Ausgangspunkt für Ideen genutzt, wenn mein Hirn abends völlig blank war und ich einfach einen Schubser brauchte.
Meinen Job übernehmen wird KI aber zu meinen Lebzeiten so was von nicht.

Ob das alles die ganzen Nachteile wert sein wird, das werden wir abwarten müssen. Ich denke eher nicht, würde mich aber gerne positiv überraschen lassen...

Sam Rockwell schrieb:

Kreativität entsteht selten unter Druck oder in Momenten, in denen unser Gehirn vollständig mit neuen oder anspruchsvollen Aufgaben beschäftigt ist. Wenn wir zum Beispiel unsere ersten Fahrstunden nehmen, ist unsere ganze Aufmerksamkeit auf das Fahren gerichtet: auf Kupplung, Blinker, Schilder, Verkehr. Unser Bewusstsein ist voll ausgelastet, da bleibt kein Raum, um frei zu assoziieren oder neue Ideen zu entwickeln.

Ganz anders ist es, wenn wir etwas tun, das uns vertraut und fast automatisch geworden ist, etwa beim Spazierengehen, Laufen oder unter der Dusche. Solche Tätigkeiten sind monoton, aber sie lassen dem Geist Raum, zu schweifen. Dann tritt das ein, was man „Muße“ nennt: eine entspannte, offene Aufmerksamkeit, die weder gelangweilt noch überfordert ist. In dieser geistigen Leere können Gedanken frei wandern, sich neu verbinden und so entstehen kreative Einfälle.

Kreativität braucht Muße, nicht Daueranspannung.

Neue Ideen kommen eher, wenn man läuft und die Gedanken schweifen lässt, als wenn man in einem Moment voller Anspannung und Reizüberflutung steckt, wie beim Autofahrenlernen.

Zum Vergrößern anklicken....

Da ist aber die Auswertung radiologischer Bilder der schlechteste Zeitpunkt für so was. Das segmentieren von Organen oder Tumoren beispielsweise ist stupide Arbeit, die trotzdem 100% der Aufmerksamkeit erfordert damit man nichts übersieht.

Dieser Prozess gehört zu Recht automatisiert und ist für mich noch mit das stärkste Argument für den Nutzen von KI in der klinischen Umgebung.

Vor allem weil es im Interesse von jedem sein sollte, dass zwischen der Bildaufnahme und der Diagnose nicht zu viel Zeit vergeht.

Ich finde es schon wichtig, dass man als Mensch nicht alles aus der Hand gibt. Auch was vermeintliche Helfer im Alltag betrifft. Die Gefahr, dass man körperlich und geistig immer unbeweglicher wird, sehe ich jetzt schon deutlich bei mir selbst und meinen Mitmenschen.

Beruflich geht wahrscheinlich jeder von seiner eigenen Perspektive aus. Im Bereich Schule wäre es dringend notwendig, das Personal auf KI zu schulen und Regeln aufzustellen.
Im Bereich Medizin sehe ich sehr großes Potential. Den guten alten Hausarzt, der die ganze Familie seit Jahrzehnten begleitet und mit seiner ganzen Erfahrung besser als jede KI ist, gibt es doch gar nicht mehr.
Ich habe schon so viele lustlose und gehetzte Ärzte als Patientin und Angehörige erlebt....2 Sekunden auf die Haut schauen und die 0815 Creme verschreiben ohne Anamnese.... dafür braucht es keinen Menschen mehr.

Mein Job (Kundenservice) wird bereits aktiv von KI unterstützt. Trotzdem braucht es mich noch, um die Details zu bearbeiten und wirklich und richtig mit den Menschen in Kontakt zu treten. Mal sehen, wir lange noch.

So lange man nicht versteht was eine KI da eigentlich macht (und ich fürchte, der Zug ist längst abgefahren um das wirklich noch tun zu können) wäre das allein schon aus ethischen Aspekten höchst fragwürdig, einen Menschen komplett durch KI zu ersetzen.
In der Klinik beispielsweise sollte die letzte Entscheidung immer beim Menschen liegen.

Tech Companies wie Microsoft mögen das aktuell noch anders sehen. Aber hier häufen sich ja immer öfters Berichte dass Firmen damit auf die Schnauze fallen, menschliche Arbeiter komplett durch KI zu ersetzen.

Dr. Sol schrieb:

So lange man nicht versteht was eine KI da eigentlich macht (und ich fürchte, der Zug ist längst abgefahren um das wirklich noch tun zu können) wäre das allein schon aus ethischen Aspekten höchst fragwürdig, einen Menschen komplett durch KI zu ersetzen.
In der Klinik beispielsweise sollte die letzte Entscheidung immer beim Menschen liegen.

Tech Companies wie Microsoft mögen das aktuell noch anders sehen. Aber hier häufen sich ja immer öfters Berichte dass Firmen damit auf die Schnauze fallen, menschliche Arbeiter komplett durch KI zu ersetzen.

Zum Vergrößern anklicken....

Klar sollte immer nochmal jemand draufschauen. Der Einsatz von KI soll ja die Arbeit mit und am Menschen wieder besser möglich machen. Theoretisch. Mehr Zeit für Kunden, Patienten, Schüler....

@Dr. Sol

KI-Forscher und Onkologen nennen in Podcasts oft die Auswertung von Röntgen- oder MRT-Bildern als eines der besten Beispiele dafür, wo künstliche Intelligenz in der Medizin schon heute spürbaren Nutzen bringt. Bei einigen Tumorarten erkennt die KI inzwischen genauso viele oder sogar mehr Auffälligkeiten als erfahrene Radiologen. Am effektivsten ist sie jedoch im Zusammenspiel mit dem Menschen: Die KI markiert verdächtige Stellen, und der Arzt beurteilt, was wirklich relevant ist. In Zukunft wird sie vermutlich sogar Veränderungen auf Bildern entdecken, die einem Menschen nie aufgefallen wären, extrem wichtig für die Früherkennung.

Ich glaube, wir reden ein wenig aneinander vorbei. Mir geht es darum, dass es in vielen Berufen weiterhin Phasen geben muss, in denen man nicht ständig voll konzentriert ist, damit Gedanken auch einmal abschweifen und neue Ideen entstehen können. Wenn KI dazu führt, dass Arbeitsprozesse so stark verdichtet werden, dass man permanent unter Spannung steht, fehlt genau dieser Freiraum, in dem Kreativität überhaupt erst möglich wird.