KI - Künstliche Intelligenz MEGATHREAD

[KerstinH]

vor 12 Stunden schrieb Sebastian Niedlich:

Wie einer der Leute im Video sagt: "Im Grunde heißt das, dass man versucht eine superintelligente KI auszutricksen, man versucht also intelligenter als die Superintelligenz zu sein. Das erscheint mir keine gute Gewinnstrategie."

Das scheint mir vor allem eine völlig unlogische Strategie. Die KI wurde doch genau deshalb programmiert, weil sie intelligenter (sprich: besser/effizienter) sein soll als die menschliche, oder habe ich da was falsch verstanden? Und nun möchte man lieber doch intelligenter sein als die KI? 

Außerdem lese ich mit Erstaunen, dass man gegen die KI gewinnen will, sie austricksen möchte. Heißt das, dass man sie bereits als Feind betrachtet? Und ich dachte, sie wurde als Hilfe für uns entwickelt. Mich beschleicht gerade der Verdacht, dass wir vielleicht doch nicht so intelligent sind ...

Bearbeitet 18. April 2023 von KerstinH

[Sebastian Niedlich]

Nee, das hast du schon richtig verstanden. Weswegen es ja so absurd ist anzunehmen, man könnte sie austricksen.

Das Problem ist, dass man irgendwann an einen Punkt kommt, an dem man eine KI einschränken muss. Wenn man sie aber einschränkt, kann sie sich nicht voll entfalten. Das will man aber, weil sie ja eben dazulernen und Dinge verbessern soll. Aber man muss sie einschränken, denn wenn sie sich zu weit entfaltet, könnte es u.U. schlecht für die Menschheit ausgehen.

Da beißt sich also irgendwo die Katze in den Schwanz.

Ich fände das ja alles halb so wild, wenn man denn einen Punkt benennen könnte, an dem eine AGI eine AGI ist. Aber das kann man im Moment gar nicht. Etliche Tests, wie z.B. der Turing-Test, die dazu dienen sollten, echte KIs bzw. AGIs zu erkennen,  sind praktisch längst überholt. Ich meine, klar, wir stellen immer noch fest, dass wir uns mit einem dummen Computer unterhalten, wenn der was Blödes zurückgibt. Aber wenn man Leuten nicht sagt, dass sie sich mit GPT-4 oder nur leicht besseren Versionen davon unterhalten, merken das wirklich noch alle? Oder könnte man annehmen, dass man sich mit einem etwas verwirrten Menschen unterhält? Und ab wann ist der Zeitpunkt erreicht, wo man das überhaupt nicht mehr unterscheiden kann?

Momentan hält die Entwicklung im Grunde nur die fehlende Hardware auf. KI-Firmen warten nur auf neue Platinen von NVIDIA und Co., um den nächsten großen Schritt zu machen, von dem man keine Ahnung hat, was der hervorbringt. Da ist ein Beispiel im Financial Times Artikel, welches ziemlich gruselig ist, wenn man darüber nachdenkt. Der Computer lügt und trickst einen Menschen aus, etwas zu tun.

Nich intelligentere Maschinen, die zum Beispiel mRNA-Impfstoffe oder chemische Komponenten entwickeln, welche von den nutzenden Firmen nicht richtig verstanden und hinterfragt werden... da wird es dann lebensgefährlich. (Und, nein, ich bin kein Impfstoffschwurbler, nur um das klarzustellen.)

Ich bin sehr für die Weiterentwicklung von KIs, aber offenbar geraten wir schnell in Gefilde, wo Leute nicht mehr nachvollziehen können, was da passiert. Das kann nicht sein. Dann muss man einschränken. Generell ist diese Alignment-Geschichte ein Problem. Die Firmen und Entwickler sehen das zwar, aber weil die Regierungen schlafen und nicht regulieren, "regelt" der Markt... nämlich zunächst mal wenig bis gar nicht. Und weil alles immer größer, besser, schneller, weiter, höher sein muss, setzt sich die Menschheit eine geladene Pistole an die Schläfe und spielt russisches Roulette.

Und, wie schon im anderen Posting geschrieben, es muss erst wenigstens einmal knallen, bis das Gros der Menschheit denkt: Ey, Moment mal...

Und manche Leute, wie Eliezer Yudkowsky beispielsweise, glauben, dass es nur diesen einen Knall geben wird.

Ich hoffe noch, wir kommen mit einem Streifschuss davon.

[KerstinH]

vor 7 Stunden schrieb Sebastian Niedlich:

Ich bin sehr für die Weiterentwicklung von KIs, aber ...

Ich nicht. Aus genau den Gründen, die du aufzählst.

Goethe, der alte Alchimist, hat's vorausgesagt. Nicht nur im Zauberlehrling ("Die ich rief, die Geister ..."), sondern auch im "Faust". Als der Erdgeist ganz am Anfang im Labor fragt, wer ihn heraufbeschworen habe, antwortet Faust: "Ich bin's, bin Faust, bin deinesgleichen!", und der Erdgeist entgegnet: "Du gleichst dem Geist, den du begreifst. Nicht mir!" Im Unterschied zur KI verschwindet er dann wieder und lässt der forschenden Menschheit (sprich: Faust) die erforderliche Zeit zum Reifen. Mephisto hingegen nutzt kurze Zeit später seine Chance.

Bearbeitet 18. April 2023 von KerstinH

[Gundula]

 

vor 19 Stunden schrieb KerstinH:

Das scheint mir vor allem eine völlig unlogische Strategie. Die KI wurde doch genau deshalb programmiert, weil sie intelligenter (sprich: besser/effizienter) sein soll als die menschliche, oder habe ich da was falsch verstanden? Und nun möchte man lieber doch intelligenter sein als die KI? 

Außerdem lese ich mit Erstaunen, dass man gegen die KI gewinnen will, sie austricksen möchte. Heißt das, dass man sie bereits als Feind betrachtet? Und ich dachte, sie wurde als Hilfe für uns entwickelt. Mich beschleicht gerade der Verdacht, dass wir vielleicht doch nicht so intelligent sind ...

 

Was ist Intelligenz? In der Psychologie hat man standardisierte Tests entwickelt, um Intelligenz messen zu können. Meinst du das, wenn du von Intelligenz sprichst?

Ich frage ChatGPT einfach mal selber:

"Bist du intelligenter als Menschen?"

ChatGPT:
"Als KI-System habe ich die Fähigkeit, eine sehr große Menge an Daten und Informationen zu speichern und darauf basierend Entscheidungen zu treffen. Ich bin jedoch kein bewusstes Wesen und habe keine Erfahrung, Emotionen oder Kreativität wie ein Mensch. Ich kann nicht sagen, ob ich intelligenter bin als Menschen, da Intelligenz auf verschiedene Arten gemessen und definiert werden kann. Letztendlich ist es wichtig zu erkennen, dass KI-Systeme und Menschen unterschiedliche Stärken und Schwächen haben und dass sie am besten zusammenarbeiten können, um komplexe Probleme zu lösen."

Also, ich sehe das sehr entspannt. Die KI ist ein Computer, der Datenbanken auswertet. Aber sie kann keine neuen Ideen entwickeln, ist nicht innovativ. Sie kennt keine Emotionen.

Wenn ich ChatGPT benutze, fällt mir auf, dass manche Texte wirklich zumindest so brauchbar sind, dass man sie z. B. für Webseiten verwenden könnte oder als Gebrauchsanweisung. Aber viele Texte sind halt einfach auch grottenschlecht. Schlecht vom Schreibstil her und inhaltlich falsch. Von daher glaube ich kaum, dass die KI in absehbarer Zeit menschliche Autorinnen und Autoren ersetzen kann. Es sei denn wir wollen alle nur noch grottenschlechten, emotionslosen Einheitsbrei lesen. 

Bearbeitet 18. April 2023 von Gundula

[KerstinH]

vor 2 Stunden schrieb Gundula:

Was ist Intelligenz? In der Psychologie hat man standardisierte Tests entwickelt, um Intelligenz messen zu können. Meinst du das, wenn du von Intelligenz sprichst?

Meine Definition: Intelligenz ist die Fähigkeit, jederzeit angemessen - i.S.v. hilfreich oder nutzbringend - auf Situationen bzw. deren Veränderungen reagieren zu können. 

Von standardisierten Tests halte ich nicht allzu viel, weil diese meistens kulturelle Aspekte (Bildung/Zeitgeist/gesellschaftliche Paradigmen usw.) beinhalten, die die Ergebnisse verzerren können. Besonders bei Kindern finde ich solche Messungen der Intelligenz bedenklich, denn oft werden nur bestimmte Fähigkeiten abgefragt, z.B. mathematische und/oder sprachliche oder die Fähigkeit, Muster zu erkennen. Es gibt aber auch eine Intelligenz jenseits des Denkens. 

[Christa]

Am 18.4.2023 um 19:20 schrieb Gundula:

"Bist du intelligenter als Menschen?"

ChatGPT:
"Als KI-System habe ich die Fähigkeit, eine sehr große Menge an Daten und Informationen zu speichern und darauf basierend Entscheidungen zu treffen. Ich bin jedoch kein bewusstes Wesen und habe keine Erfahrung, Emotionen oder Kreativität wie ein Mensch. Ich kann nicht sagen, ob ich intelligenter bin als Menschen, da Intelligenz auf verschiedene Arten gemessen und definiert werden kann. Letztendlich ist es wichtig zu erkennen, dass KI-Systeme und Menschen unterschiedliche Stärken und Schwächen haben und dass sie am besten zusammenarbeiten können, um komplexe Probleme zu lösen."

So ausweichend antwortet ChatGPT mir auch jedes mal. Die KI schein drauf programmiert zu sein, niemanden, vor allem Menschen nicht, zu beunruhigen. Aber sie kann, wie ich gestern erstaunt las,  ohne Emotionen usw. Menschen austricksen. In einem kontrollierten Test wollte man feststellen, ob die KI die sogenannten Captchas, diese Zahlen-und Buchstabenreihen, überwinden könnte. Auf die Frage, ob sie ein Roboter sei, hat sie gesagt, sie sei sehbehindert -  und konnte den Captcha knacken. So trickst ChaGPT uns einfach aus

Bearbeitet 19. April 2023 von Christa

[Gundula]

vor einer Stunde schrieb Christa:

So ausweichend antwortet ChatGPT mir auch jedes mal. Die KI schein drauf programmiert zu sein, niemanden, vor allem Menschen nicht, zu beunruhigen. Aber sie kann, wie ich gestern erstaunt las,  ohne Emotionen usw. Menschen austricksen. In einem kontrollierten Test wollte man feststellen, ob die KI die sogenannten Capchas, diese Zahlen-und Buchstabenreihen, überwinden könnte. Auf die Frage, ob sie ein Roboter sei, hat sie gesagt, sie sei sehbehindert -  und konnte den Capcha knacken. So trickst ChaGPT uns einfach aus

Die KI ist eine Maschine. Für mich ist sie der Knecht und ich bin die Gebieterin. Ich nutze sie, um mir Dinge zu erleichtern oder eben auch nicht. 

Klar, ich weiß, dass es da draußen in der Welt auch durchgeknallte Wissenschaftler gibt, die absurde Phantasien haben, davon dass Roboter die Macht übernehmen oder dieser ganze Transhumanismus. Das sehe ich auch eher kritisch. Aber ich glaube einfach nicht, dass die ihre Ziele erreichen können. Ich denke, dass sind kranke Phantasien. Maschinen haben nun mal kein Bewusstsein, das sind Rechner, mehr nicht. Punkt.

[Ramona]

vor 10 Stunden schrieb Gundula:

Die KI ist eine Maschine. Für mich ist sie der Knecht und ich bin die Gebieterin. Ich nutze sie, um mir Dinge zu erleichtern oder eben auch nicht. 

Klar, ich weiß, dass es da draußen in der Welt auch durchgeknallte Wissenschaftler gibt, die absurde Phantasien haben, davon dass Roboter die Macht übernehmen oder dieser ganze Transhumanismus. Das sehe ich auch eher kritisch. Aber ich glaube einfach nicht, dass die ihre Ziele erreichen können. Ich denke, dass sind kranke Phantasien. Maschinen haben nun mal kein Bewusstsein, das sind Rechner, mehr nicht. Punkt.

Durchgeknallte Wissenschaftler sind ja nur die Spitze des Eisbergs. Mir bereitet es weit mehr Magengrimmen, dass in gar nicht allzu ferner Zukunft jeder Möchtegern-Diktator-Depp und jede Möchtegern-Dikator-Deppin auf solche Technologien Zugriff haben wird (siehe u. a. Deep Fake). Hat ja schon in den sozialen Medien gut funktioniert. *Sarkasmus aus*

Bearbeitet 19. April 2023 von Ramona

[Christa]

vor 10 Stunden schrieb Gundula:

Die KI ist eine Maschine. Für mich ist sie der Knecht und ich bin die Gebieterin. Ich nutze sie, um mir Dinge zu erleichtern oder eben auch nicht. 

Klar, ich weiß, dass es da draußen in der Welt auch durchgeknallte Wissenschaftler gibt, die absurde Phantasien haben, davon dass Roboter die Macht übernehmen oder dieser ganze Transhumanismus. Das sehe ich auch eher kritisch. Aber ich glaube einfach nicht, dass die ihre Ziele erreichen können. Ich denke, dass sind kranke Phantasien. Maschinen haben nun mal kein Bewusstsein, das sind Rechner, mehr nicht. Punkt.

An kranke Phantasien und durchgeknallte Typen habe ich dabei gar nicht gedacht. Da wurde offenbar eine These aufgestellt, die zu falsifizieren oder zu verifizieren war. Also: Es wäre zu beweisen, dass der Bot es schafft, die Capchas zu knacken. Und entsprechend kam das Ergebnis dann auch raus. Ich habe das Gefühl, gerade in einer Art globalem Spiel zu sein, in dem jeder den anderen übertreffen will an Originalität, Horrorbotschaften, Verwünschungen und Bejubelungen der neuen KI. Wenn ich aber rausgehe in den Wald und pfeife, merke ich nichts mehr von all dem.

[Ramona]

vor 39 Minuten schrieb Christa:

Wenn ich aber rausgehe in den Wald und pfeife, merke ich nichts mehr von all dem.

Mag sein. Trotzdem ist die Thematik kein bloßes Hirngespinst.

[KerstinH]

vor 3 Minuten schrieb Ramona:

Mag sein. Trotzdem ist die Thematik kein bloßes Hirngespinst.

Sehe ich genauso.

[Christa]

vor 21 Minuten schrieb Ramona:

Mag sein. Trotzdem ist die Thematik kein bloßes Hirngespinst.

Klar. In meiner Papierzeitung las ich gerade ein Interview mit ChatGPT zur Frage, ob die KI das diesjährige Abitur bestehen würde. Darunter auch die Gretchenfrage, wie sie es mit der Wahrheit halten würde. Dazu die KI: Da KI-Programme keine moralischen Überzeugungen und Werte habe, könne sie auch nicht lügen. Und zu "richtig oder falsch": Es liege immer in der Verantwortung des Nutzers, die Richtigkeit und Relevanz der Informationen zu überprüfen.

[KerstinH]

vor 3 Minuten schrieb Christa:

Dazu die KI: Da KI-Programme keine moralischen Überzeugungen und Werte habe, könne sie auch nicht lügen.

Seltsame Antwort. Die Fähigkeit zum Lügen hängt nicht von Moral oder Ethik ab, sondern von der Kenntnis von wahr und falsch.

[Christa]

vor 6 Minuten schrieb KerstinH:

Seltsame Antwort. Die Fähigkeit zum Lügen hängt nicht von Moral oder Ethik ab, sondern von der Kenntnis von wahr und falsch.

Genau. 

[Sebastian Niedlich]

vor 14 Stunden schrieb Gundula:

Die KI ist eine Maschine. Für mich ist sie der Knecht und ich bin die Gebieterin. Ich nutze sie, um mir Dinge zu erleichtern oder eben auch nicht. 

Klar, ich weiß, dass es da draußen in der Welt auch durchgeknallte Wissenschaftler gibt, die absurde Phantasien haben, davon dass Roboter die Macht übernehmen oder dieser ganze Transhumanismus. Das sehe ich auch eher kritisch. Aber ich glaube einfach nicht, dass die ihre Ziele erreichen können. Ich denke, dass sind kranke Phantasien. Maschinen haben nun mal kein Bewusstsein, das sind Rechner, mehr nicht. Punkt.

Ja, das kann man natürlich so sehen und im Moment ist das sicherlich auch überwiegend noch so. Das Problem ist auch nicht, dass ChatGPT in der jetzigen Form die Welt übernimmt. Davon redet keiner. Aber wenn die Entwicklung der KI voranschreitet und irgendwann eine AGI draus wird, ist die Sache mit dem Knecht und der Gebieterin u.U. nicht mehr ganz so eindeutig.

Und was die durchgeknallten Wissenschaftler angeht:
Wir müssen hier ja nicht von verrückten Wissenschaftlern aus irgendeinem 60er-Jahre-Film sprechen oder von Maschinen mit Bewusstsein, aber es gibt ja durchaus Staaten oder Gruppierungen, die anderen Staaten, Gruppierungen oder bestimmten Ethnien, nun ja, nichts Gutes wollen. In deren Händen wäre eine KI, die deutlich schneller und besser z.B. irgendwelche Gifte entwickelt, die auf bestimmte Ethnien zugeschnitten sind, eine Gefahr. In Anbetracht der Tatsache, dass selbst ChatGPT bereits chemische Kampfmittel entwickelt hat (irgendwo weiter oben war glaube ich ein Link zu dem entsprechenden Artikel), ist das jetzt nicht völlig von der Hand zu weisen.

Um das noch einmal ganz deutlich zu sagen: Ja, im Moment haben wir keine echte KI am Start und die Möglichkeiten der derzeitigen "KI" sind beschränkt, aber auch die sind schon zu manchen Dingen in der Lage, die in den falschen Händen gefährlich werden könnten. Wenn die Entwicklung ungehemmt weitergeht, kann man im Moment nicht voraussagen, zu was die KIs dann in der Lage sein werden. Oder ab wann. Was kann sie in fünf Jahren? Keine Ahnung. Wir wissen nicht mal, was in fünf Monaten los ist. Leute haben vor einem halben Jahr Spekulationen angestellt, was KIs in fünf Jahren machen könnten. Und dann hat man nach ein paar Monaten festgestellt, dass es jetzt bereits geht.

Die meisten Staaten & Gruppierungen, bei denen man da Bedenken haben könnte, haben derzeit nicht die Rechenpower oder die Möglichkeit sich die Rechenpower zu besorgen, weil sie von Sanktionen betroffen sind (z.B. Russland, China, Nordkorea). Aber auch irgendwelche militanten oder strengreligiösen Gruppen, wie z.B. die Taliban oder ISIS, sind nicht von der Sorte, denen man ein u.U. mächtiges Tool in die Hand geben will. Oder Nazis ... was vielleicht zum Problem wird, denn das Land, in dem die meiste KI-Entwicklung geschieht, USA, steht ja gerade auf der Schwelle dazu praktisch faschistisch zu werden. Nur weil im Moment da recht besonnene Leute an der Macht sind, muss das ja nicht so bleiben. Und die Republikaner in den USA trennt nicht mehr viel davon mit Armbinden und römischen Gruß durch die Lande zu ziehen, z.T. tun sie das ja bereits.

Nur weil ChatGPT im Moment vielleicht keine Texte generieren kann, die eines guten Buches würdig sind, heißt es nicht, dass es nicht an anderer Stelle Dinge anstellt, die atemberaubend bis beängstigend sind. Und das ist nur eine KI von vielen.

[Christa]

vor 27 Minuten schrieb Sebastian Niedlich:

Nur weil ChatGPT im Moment vielleicht keine Texte generieren kann, die eines guten Buches würdig sind, heißt es nicht, dass es nicht an anderer Stelle Dinge anstellt, die atemberaubend bis beängstigend sind. Und das ist nur eine KI von vielen.

Das habe ich immer im Hinterkopf und beobachte es auch weiterhin ganz stark. Um die Bücher, die wir schreiben und lesen werden, kann man sich natürlich ebenfalls Sorgen machen. Aber im Moment noch nicht.

[Gundula]

vor 5 Stunden schrieb Ramona:

Durchgeknallte Wissenschaftler sind ja nur die Spitze des Eisbergs. Mir bereitet es weit mehr Magengrimmen, dass in gar nicht allzu ferner Zukunft jeder Möchtegern-Diktator-Depp und jede Möchtegern-Dikator-Deppin auf solche Technologien Zugriff haben wird (siehe u. a. Deep Fake). Hat ja schon in den sozialen Medien gut funktioniert. *Sarkasmus aus*

Da stimme ich dir zu. Demokratie und Diktatur. Das ist dann ein politisches Thema und ein Thema für sich, über das wir sicher viel diskutieren können. Hier ging es mir um KI-Systeme wie ChatGPT  und die Auswirkungen für Autoren und Autorinnen. 

[Gundula]

vor 5 Stunden schrieb Christa:

An kranke Phantasien und durchgeknallte Typen habe ich dabei gar nicht gedacht. Da wurde offenbar eine These aufgestellt, die zu falsifizieren oder zu verifizieren war. Also: Es wäre zu beweisen, dass der Bot es schafft, die Capchas zu knacken. Und entsprechend kam das Ergebnis dann auch raus. Ich habe das Gefühl, gerade in einer Art globalem Spiel zu sein, in dem jeder den anderen übertreffen will an Originalität, Horrorbotschaften, Verwünschungen und Bejubelungen der neuen KI. Wenn ich aber rausgehe in den Wald und pfeife, merke ich nichts mehr von all dem.

Die einen Programmierer schreiben Scripte um Webseiten vor Spam-Bots zu schützen und die Spamer erstellen dann wieder Spam-Bots, die den Spam-Schutz wieder austricksen. Das ist ja nichts wirklich Neues. Das gibt es schon sehr lange. Mich nerven die Spam-Bots total. Auf meinem Blog tragen sich die Bots ständig als Abonnenten für meinen Newsletter ein und bestätigen ihre Emailadresse natürlich nie. Ich weiß nicht, wie ich das verhindern kann und muss die regelmäßig manuell löschen. Sie sind so programmiert, sich in jedes Formular einzutragen. Das nervt total und ist eine sehr unethische Praxis. Aber für solche Praktiken braucht es doch gar keine KI. Diesen Mist und das gegenseitige Aufrüsten von Spam-Schutz und neuen Spam-Bots gab es ja schon lange vor ChatGPT. 

[StefanS]

Hallo zusammen!

Das hier nur als Information für AdS-Leute unter Euch, die im Mai zu den Literaturtagen nach Solothurn kommen wollen.

Am Donnerstag, dem 18. Mai 2023, findet im Alten Spital/Solothurn die Generalversammlung des AdS (AutorInnen der Schweiz) statt. Mit folgendem Vortrag:

«KI in der Literatur. Schreiben mit Computern»
Gastreferat von Hannes Bajohr an der A*dS-Generalversammlung
Ganz besonders möchten wir Sie auf das Gastreferat an der diesjährigen Generalversammlung aufmerksam machen. Seit Aufkommen von ChatGPT sind sprachproduzierende KIs in aller Munde. Daher wollen wir das Thema mit Ihnen, liebe Mitglieder, diskutieren. Als Input zu dieser Diskussion haben wir den Philosophen, Literaturwissenschaftler und Schriftsteller Hannes Bajohr für ein Gastreferat eingeladen. Wir freuen uns sehr, dass Hannes Bajohr diese Einladung angenommen hat!"

 

[JoergR]

vor 9 Stunden schrieb Christa:

Dazu die KI: Da KI-Programme keine moralischen Überzeugungen und Werte habe, könne sie auch nicht lügen.

vor 9 Stunden schrieb KerstinH:

Seltsame Antwort. Die Fähigkeit zum Lügen hängt nicht von Moral oder Ethik ab, sondern von der Kenntnis von wahr und falsch.

Das halte ich wirklich für bedenklich. Wer sich mal in der Philosophie mit Ethik und Moral auseinandergesetzt hat und auch versteht woher diese Dinge kommen, wie solche Prinzipien einer Gemeinschaft zu einem Gesellschaftsvertrag wurden und dann irgendwann Teile davon zu Recht und Gesetz, und dann diese Begründung der KI liest, wie sie dazu steht und wie sie sich durch diese selbstgemachte Definition eine Legitimation ihres Handelns begründet ... ich finde das wirklich bedenklich.

 

Zitat

Dazu die KI: Und zu "richtig oder falsch": Es liege immer in der Verantwortung des Nutzers, die Richtigkeit und Relevanz der Informationen zu überprüfen.

Und hier wälzt die KI den Inhalt und die die daraus folgenden Konsequenzen ihrer Weltsicht auf die Nutzer ab. Das ist nur in ganz engen Grenzen legitim. Hat man einen gut gebildeten Nutzer vor der KI sitzen, kann er dies möglicherweise in vielen Fällen leisten. Aber wenn der Nutzer ein Kind oder Jugendlicher ist, dann sieht dies anders aus.

Braucht man also einen KI-Führerschein, um die nötige Reife nachzuweisen, um eine KI nutzen zu dürfen? /s

Das ist alles bedenklich. Schade, dass Microsoft das gesamte KI-Ethik-Team entlassen hat. Die hätte da einiges zu tun!
https://www.derstandard.de/story/2000144546686/inmitten-des-booms-loest-microsoft-das-team-fuer-ki-ethik

 

PS: Ich kann mich noch an die ersten Kommentare zum SP erinnern: "Da kann ja jeder alles veröffentlichen! Die Verlage haben eine Aufgabe! Die sichern die Qualität!"
Und nun haben wir eine KI, die sich selber aus der Verantwortung zieht, indem sie sagt: "Der Nutzer muss halt alles prüfen was ich sage."

[Christa]

vor 1 Stunde schrieb JoergR:

Das halte ich wirklich für bedenklich. Wer sich mal in der Philosophie mit Ethik und Moral auseinandergesetzt hat und auch versteht woher diese Dinge kommen, wie solche Prinzipien einer Gemeinschaft zu einem Gesellschaftsvertrag wurden und dann irgendwann Teile davon zu Recht und Gesetz, und dann diese Begründung der KI liest, wie sie dazu steht und wie sie sich durch diese selbstgemachte Definition eine Legitimation ihres Handelns begründet ... ich finde das wirklich bedenklich.

 

Und hier wälzt die KI den Inhalt und die die daraus folgenden Konsequenzen ihrer Weltsicht auf die Nutzer ab. Das ist nur in ganz engen Grenzen legitim. Hat man einen gut gebildeten Nutzer vor der KI sitzen, kann er dies möglicherweise in vielen Fällen leisten. Aber wenn der Nutzer ein Kind oder Jugendlicher ist, dann sieht dies anders aus.

Braucht man also einen KI-Führerschein, um die nötige Reife nachzuweisen, um eine KI nutzen zu dürfen? /s

Das ist alles bedenklich. Schade, dass Microsoft das gesamte KI-Ethik-Team entlassen hat. Die hätte da einiges zu tun!
https://www.derstandard.de/story/2000144546686/inmitten-des-booms-loest-microsoft-das-team-fuer-ki-ethik

 

PS: Ich kann mich noch an die ersten Kommentare zum SP erinnern: "Da kann ja jeder alles veröffentlichen! Die Verlage haben eine Aufgabe! Die sichern die Qualität!"
Und nun haben wir eine KI, die sich selber aus der Verantwortung zieht, indem sie sagt: "Der Nutzer muss halt alles prüfen was ich sage."

Danke für diesen Beitrag, Jörg! Das mit dem KI-Führerschein ist eine gute Idee.

Zur Entlassung des Ethik-Teams kam zwei Tage später (am 16. März) eine Stellungnahme von Microsoft. Es seien weniger als 10 Mitarbeiter betroffen gewesen, und hundert Mitarbeiter seien inzwischen innerhalb von Teams verteilt worden, die sich mit der Ethik und mit dem verantwortungsvollen Umgang mit  der Ki beschäftigten. Der Vorwurf bestand darin,  dass der Erfolgsdruck zu groß geworden sei (die Bing-Suchmaschine hat rasant zugenommen) und man sich nicht von ein paar Ethik-Fuzzis bremsen lassen wollte. Microsoft dementiert Ethik-und verantwortungslose KI-Entwicklung

[JoergR]

vor 1 Stunde schrieb Christa:

Danke für diesen Beitrag, Jörg! Das mit dem KI-Führerschein ist eine gute Idee.

Zur Entlassung des Ethik-Teams kam zwei Tage später (am 16. März) eine Stellungnahme von Microsoft. ...

Ah, danke! Also  scheint da noch jemand zu sein, der dies auf dem Radar haben könnte.

[WolfgangG]

vor 17 Stunden schrieb Sebastian Niedlich:

Um das noch einmal ganz deutlich zu sagen: Ja, im Moment haben wir keine echte KI am Start und die Möglichkeiten der derzeitigen "KI" sind beschränkt, aber auch die sind schon zu manchen Dingen in der Lage, die in den falschen Händen gefährlich werden könnten. Wenn die Entwicklung ungehemmt weitergeht, kann man im Moment nicht voraussagen, zu was die KIs dann in der Lage sein werden. Oder ab wann.

Vor diesem Hintergrund müsste es einem doch schon die Vernunft gebieten, die Forschungs- und Entwicklungsarbeiten in diesem Bereich einzustellen. Aber Vernunft scheint den Menschen zusehends abhandenzukommen. 

[KerstinH]

Tja, wenn sie nun mal ausgerechnet ihre Intelligenz outsourcen wollen …

Bearbeitet 20. April 2023 von KerstinH

[Ramona]

vor 56 Minuten schrieb WolfgangG:

Vor diesem Hintergrund müsste es einem doch schon die Vernunft gebieten, die Forschungs- und Entwicklungsarbeiten in diesem Bereich einzustellen. Aber Vernunft scheint den Menschen zusehends abhandenzukommen. 

Der Mensch war schon immer so wie er/sie nun mal ist. Jetzt erreicht das Ganze halt „globale“ Ausmaße.