Neue Regelung: Kindle-AutorInnen müssen KI-Nutzung offenlegen

[GesineS]

Neue Regelung: Kindle-AutorInnen müssen KI-Nutzung offenlegen

Bereits mehrfach stand Amazon wegen schlechter oder falscher KI-generierter Inhalte in E-Books in der Kritik. So sorgte ein KI-generierter Pilzratgeber für Aufregung. Der Grund: Die Verzehrungstipps darin könnten tödlich enden. Jetzt führt das Unternehmen eine neue Richtlinie ein. Kindle-AutorInnen sind verpflichtet, bei der Produktion ihrer E-Books über Kindle Direct Publishing anzugeben, ob KI zum Einsatz kam – sei es beim Schreiben, der Bilderstellung oder bei Übersetzungen. Dabei gibt es die Kategorien KI-unterstützt und KI-generiert.  Eingeführt wurde die Richtlinie nach monatelangen Verhandlungen zwischen der amerikanischen AutorInnenvereinigung Authors Guild und Kindle Direct Publishing. https://twitter.com/SYNDIKAT_Krimi/status/1703734002895421526

 

[Nina]

Zitat

So sorgte ein KI-generierter Pilzratgeber für Aufregung. Der Grund: Die Verzehrungstipps darin könnten tödlich enden. 

Ja, aber kann doch bei "normal" geschriebenen Büchern auch so sein. Gerade bei Ernährung, was da alles von Menschen empfohlen wird, z.B. Trinken von Urin. Auch manche Heilkräuter sind nicht unbedenklich oder ich habe auch schon mehrfach so Aussagen wie "das kommt direkt aus der Natur, das kann keine Allergien auslösen" und dann wird mit Nussöl oder Zitronensaft eingeschmiert. (Nein, es gibt ja gar keine Zitrusfrüchte und Nassallergien, nur auf *ich weiß auch nicht, was das für Chemie ist* - und ja, ich bin im Ironiemodus.) 

Also das finde ich jetzt nicht unbedingt einen Grund, aber ich finde es gut, dass es ausgewiesen werden soll. Auch beispielsweise für Literaturpreise. Wir hatten ja auch schon lange die Diskussion beim KLP bezüglich beispielsweise Agenturbildern auf Covern. Schon menschengemacht, aber doch nicht wirklich Kunst, wenn auch als Gebrauchsgraphik gut geeignet. Das ist aber schon lange ein Thema, Gebrauchsgraphik oder Kunst - oder Kunsthandwerk? Durch die KI wird es jetzt noch kniffliger. 

[GesineS]

Auf der Website der Authors Guild:

Amazon’s New Disclosure Policy for AI-Generated Book Content Is a Welcome First Step

(…) The new policy comes after months of discussions between the Authors Guild and KDP leadership on the need for safeguards against AI-generated books flooding the platform and displacing human authors and to protect consumers from unwittingly purchasing AI-generated texts. (…) In recent months, we have seen examples of AI-generated books ascending the best-seller lists on Amazon, and content farms appropriating the names, styles, and content of well-known authors such as Jane Friedman. (…) once AI technologies are appropriately licensed, they hold promise to help writers as a tool to edit, refine, or assist in ideation, brainstorming, or outlining. (…)

The Authors Guild will continue working to promote similar transparency from other major platforms and publishers.

 

 

[Nina]

Das verstehe ich schon eher wie das mit der Pilzvergiftung. Man kann ja Bücher durchaus in einem Stil schreiben und ich könnte mir vorstellen, dass sogar ganze Passagen wortgleich auftauchen. Wobei das neulich eine interessante Diskussion mit meinem Vater (bildender Künstler) war, weil wir dann zum Thema "Selbstplagiat" abgeschweift sind. Also der Grat zwischen dem "eigenen Stil" und frühere Werke zu kopieren, zu variieren, wie toll oder wie schlimm das ist. 

[KerstinH]

Ich frag mich, wie die Kontrolle eingehalten werden will. Wenn da jemand ein klein wenig sensibel überarbeitet, merkt das doch (zumindest was das Schreiben angeht, bei Bildern weiß ich es nicht) niemand. Es sei denn, derjenige verzapft inhaltlichen Unsinn wie z.B. bei besagtem Pilzratgeber.

Das kommt mir wie eine Nebelkerze vor.

Ich fände ja eine Verpflichtung zu einer Art Wasserzeichen (weiß nicht, ob sowas technisch auch für Texte möglich ist - ist das vielleicht oben mit „appropriately licensed“ gemeint?) gut. Die Verpflichtung läge dann beim KI-Programmanbieter, der schließlich auch unerlaubt auf Hunderttausende Seiten „Trainingsmaterial“ aus dem Internet zugegriffen hat.

Bearbeitet 19. September von KerstinH

[JankaP]

Man kann Texte nach Mustern durchsuchen, wie man das auch mit Bildern tun kann, um KI zu entlarven. Das ist sicher noch keine 100% Lösung, aber schon sehr gut machbar. Ein Tool das ich selbst nutze gerade auch im Grafikbereich ist folgende Seite: https://hivemoderation.com/ai-generated-content-detection?utm_source=jens.marketing&utm_medium=directory&utm_campaign=tools

 

[Sebastian Niedlich]

Ja, also ganz ehrlich, diese AI-Detection-Tools sind ein wenig Larifari. Leute haben da auch schon ihre selbstgeschriebenen Texte eingegeben und 80% Wahrscheinlichkeit eines KI-Textes bekommen. Ich fürchte, dass diese ganzen Detection-Tools über kurz oder lang nichts bringen. (Eher kurz.)

[Christa]

vor 17 Stunden schrieb GesineS:

Neue Regelung: Kindle-AutorInnen müssen KI-Nutzung offenlegen

Bereits mehrfach stand Amazon wegen schlechter oder falscher KI-generierter Inhalte in E-Books in der Kritik. So sorgte ein KI-generierter Pilzratgeber für Aufregung. Der Grund: Die Verzehrungstipps darin könnten tödlich enden. Jetzt führt das Unternehmen eine neue Richtlinie ein. Kindle-AutorInnen sind verpflichtet, bei der Produktion ihrer E-Books über Kindle Direct Publishing anzugeben, ob KI zum Einsatz kam – sei es beim Schreiben, der Bilderstellung oder bei Übersetzungen. Dabei gibt es die Kategorien KI-unterstützt und KI-generiert.  Eingeführt wurde die Richtlinie nach monatelangen Verhandlungen zwischen der amerikanischen AutorInnenvereinigung Authors Guild und Kindle Direct Publishing. https://twitter.com/SYNDIKAT_Krimi/status/1703734002895421526

 

vor 3 Stunden schrieb KerstinH:

Ich frag mich, wie die Kontrolle eingehalten werden will. Wenn da jemand ein klein wenig sensibel überarbeitet, merkt das doch (zumindest was das Schreiben angeht, bei Bildern weiß ich es nicht) niemand. Es sei denn, derjenige verzapft inhaltlichen Unsinn wie z.B. bei besagtem Pilzratgeber.

Das kommt mir wie eine Nebelkerze vor.

Ich fände ja eine Verpflichtung zu einer Art Wasserzeichen (weiß nicht, ob sowas technisch auch für Texte möglich ist - ist das vielleicht oben mit „appropriately licensed“ gemeint?) gut. Die Verpflichtung läge dann beim KI-Programmanbieter, der schließlich auch unerlaubt auf Hunderttausende Seiten „Trainingsmaterial“ aus dem Internet zugegriffen hat.

Ich weiß nicht so recht, was ich davon halten soll. Was den Pilzratgeber betrifft, ist es sicher sinnvoll darauf hinzuweisen, dass eine KI das verzapft hat. So wie bei Wikipedia auch darauf hingewiesen wird, dass der Artikel nicht genügend belegt ist. Ich habe zwei ältere Pilzratgeber und weiß inzwischen genau, welche ich unbedenklich verzehren kann und welche ich lieber stehenlassen sollte. Ich würde nie auf die Idee kommen, mir einen KI-generierten Ratgeber zu kaufen! Aber für die anderen Leserìnnnen ist das sicher wichtig.

Auf der anderen Seite sehe ich das wie Sebastian: Was sollen uns diese Entdecker-Tools bringen? Bei Chip  gibt es Hinweise darauf, woran man einen KI-generierten Text selbst erkennt - z. B. an schiefen Metaphern, Grammatikfehlern, fehlenden Emotionen und an der Länge. Aber auch das mit der Länge relativiert sich, je mehr und je bessere Prompts eingegeben wurden. https://praxistipps.chip.de/chatgpt-co-so-erkennen-sie-ki-texte-in-wenigen-minuten_155103

Und noch eine Frage: Werden solche Hinweise Leserìnnen davon abhalten, diese Bücher zu kaufen? Auch wenn, wie Kerstin anregt - die KI durch Wasserzeichen erkennbar wird? Ich selbst lese vor allem Verlagsbücher und warte darauf, dass es dort auch bald eine solche Verpflichtung geben wird.

[DirkH]

vor 1 Stunde schrieb Sebastian Niedlich:

Leute haben da auch schon ihre selbstgeschriebenen Texte eingegeben und 80% Wahrscheinlichkeit eines KI-Textes bekommen.

Das muss nicht unbedingt bedeuten, dass die Detection Tools schlecht arbeiten ...

[Margot]

Immerhin ist es schon mal ein Schritt in die richtige Richtung. Ob er wirklich etwas bewirkt, sei dahin gestellt, aber man hat das Problem wenigstens erkannt. 

Btw. muss man vor dem Hochladen bei Amazon auch bestätigen, dass man den Text selbst verfasst hat, was natürlich niemanden daran hindert, Plagiate einzustellen. Wer betrügen will, findet immer einen Weg. 

[Nina]

Zitat

Und noch eine Frage: Werden solche Hinweise Leserìnnen davon abhalten, diese Bücher zu kaufen? Auch wenn, wie Kerstin anregt - die KI durch Wasserzeichen erkennbar wird? Ich selbst lese vor allem Verlagsbücher und warte darauf, dass es dort auch bald eine solche Verpflichtung geben wird.

Es ist immer die Frage nach der Qualität. Bei Texten sehe ich das nicht so an den Beispielen, wobei man auch nachfragen sollte, ob manche Ausschreibungen nicht geradezu nach KI schreien. Wenn man jemand in schlappen 8000 Zeichen einen Krimi erzählt haben will, der in der Stadt soundso spielt, da wird auch bei einem menschlichen Autor nicht großartig was rauskommen. 

Ansonsten ist auch die Frage, wie wichtig Leuten der Künstler ist. Bei Autoren sehe ich eher, dass die Person dahinter den Leuten oft relativ egal ist. Gerade auch das Aussehen. Aber man erzählt auch gerne Geschichten, gerade so was in Richtung "Aschenputtel" ist recht beliebt. So was wie drogensüchtiger Straßenmusiker mit zugelaufener orangefarbener Katze wird reich, Frau, die so arm ist, dass sie gar kein Geld für Papier hat und daher auf Kaffeehausservietten die Geschichte des wohl berühmtesten Zauberlehrlings seit Goethe niederschreibt usw. Wird man solche Geschichten mit KIs vermissen? Ja, nein, oder sind die Storys nicht ohnehin meistens erfunden? Und die Lebensläufe? - Also ich werde immer dann misstrauisch, wenn ein Lebenslauf so flott ist, mit so vielen Reisen, mit so viel beruflichem Erfolg und außerdem so jung usw. Da weiß man eigentlich dann auch, dass das gar nicht so recht sein kann, vor allem, dass wer dann noch Zeit zum Bücherschreiben findet. Da ist es dann auch die Frage, wie wichtig einem der Lebenslauf eines Autors ist. Und ja, es kann einem auch wichtig sein, gerade wenn persönliche Erlebnisse verarbeitet werden. Bei der KI fällt es halt ganz weg und wenn wer auftritt, ist das ein Schauspieler.

[Christa]

vor 3 Stunden schrieb Nina:

Es ist immer die Frage nach der Qualität. 

Ansonsten ist auch die Frage, wie wichtig Leuten der Künstler ist. 

Bei der KI fällt es halt ganz weg und wenn wer auftritt, ist das ein Schauspieler.

Ich versuche mal darauf zu antworten. Du meinst, den Leuten, Leserínnen ist es egal, ob eine KI oder ein(e) Autorìn das Buch geschrieben hat? Hauptsache billig?

Und bei der KI gibt es keinen Lebenslauf, das ist klar. Man kann also nicht in die Verkaufsinformationen schreiben "Wurde von mir und der KI als Co-Autorin erstellt", wie es manchmal mit einer Designerin oder Übersetzerin dasteht. Sondern: Wurde mit Hilfe der KI erstellt.

Bei der KI wird aber kein Schauspieler auftreten (bei einer Lesung?), sondern eher ein Avatar.

Bearbeitet 19. September von Christa

[Nina]

vor 55 Minuten schrieb Christa:

Ich versuche mal darauf zu antworten. Du meinst, den Leuten, Leserínnen ist es egal, ob eine KI oder ein(e) Autorìn das Buch geschrieben hat? Hauptsache billig?

Und bei der KI gibt es keinen Lebenslauf, das ist klar. Man kann also nicht in die Verkaufsinformationen schreiben "Wurde von mir und der KI als Co-Autorin erstellt", wie es manchmal mit einer Designerin oder Übersetzerin dasteht. Sondern: Wurde mit Hilfe der KI erstellt.

Bei der KI wird aber kein Schauspieler auftreten (bei einer Lesung?), sondern eher ein Avatar.

Wenn man es offenlegt. Ob es so eine Pflicht geben wird, und in welcher Form, ist ja noch offen. Und bei realen Autoren gibt es ja auch fiktive Biographien zum Pseudonym. Es gibt auch öfter zwei Autoren, die sich ein Pseudonym teilen. Also sich frage mich oft, wie sehr das einen Unterschied macht, wer ein Buch geschrieben hat. Verkauft sich ein Krimi von einer forensischen Psychologin besser als der einer Supermarktkassierin - oder von einer Frau, die behauptet, forensische Psychologin zu sein. Oder merkt man das einfach an der Schreibe? Bei der KI wird man sich die Frage auch stellen müssen. Und wenn das Buch gut ist, ob es einen kümmert. Ich könnte mir vorstellen, dass es dann so ähnlich wie mit dem Bio-Trend wird. Und dann geht man zum Markt, kriegt Käfighaltungseier und merkt es nicht ...

 

[AndreasE]

vor 7 Stunden schrieb Nina:

Ich könnte mir vorstellen, dass es dann so ähnlich wie mit dem Bio-Trend wird. Und dann geht man zum Markt, kriegt Käfighaltungseier und merkt es nicht ...

Das scheint mir plausibel. Dann gibt es in Zukunft Kennzeichen auf Büchern "Wurde von einem Bio-Autor geschrieben", um sich von den Massenprodukten aus der KI-Roman-Maschine abzuheben, die jede Woche 9.000 neue Liebesromane, 11.000 neue Krimis und 5.000 neue Fantasy-Trilogien auf den Markt wirft.

[Christa]

vor 10 Stunden schrieb Nina:

Also sich frage mich oft, wie sehr das einen Unterschied macht, wer ein Buch geschrieben hat. Verkauft sich ein Krimi von einer forensischen Psychologin besser als der einer Supermarktkassierin - oder von einer Frau, die behauptet, forensische Psychologin zu sein. Oder merkt man das einfach an der Schreibe? Bei der KI wird man sich die Frage auch stellen müssen. Und wenn das Buch gut ist, ob es einen kümmert. Ich könnte mir vorstellen, dass es dann so ähnlich wie mit dem Bio-Trend wird. Und dann geht man zum Markt, kriegt Käfighaltungseier und merkt es nicht ...

Das merkt man insofern an der Schreibe, als die echte forensische Psychologin ihr Fachwissen von echten "Patienten" einbringt. Das kann die KI nicht haben, sondern nur imitieren. Wen das nicht kümmert, der kauft Käfighaltungsbücher und hält sie für Bio-Bücher. Es kommt ja auch drauf an, wo man seine Bücher kauft. Im Massensupermarkt oder im Internet, in der Buchhandlung oder beim kleinen, feinen Buchhändler um die Ecke. Oder man sucht sich die echten Bücher aus den öffentlichen Bücherregalen raus. Die dürften noch so Bio sein wie die Eier, die ich früher bei meiner Oma im Hühnergehege aufgesammelt habe.

[Nina]

Na ja, es ist die Frage: Merkt man echtes Fachwissen? Muss wer studiert haben, reicht Interesse und gute Recherche bei menschlichen Autoren? - Ich würde jein sagen, man kann sich viel auch selbst beibringen. Andere fragen, Youtubevideos gucken, Bücher lesen. Umgekehrt merkt man gerade bei sehr jungen Autoren oft die mangelnde Lebenserfahrung. Allerdings überhaupt, ich störe mich v.a. an zu perfekten Charakteren. Die Leute in Serien beispielsweise, entweder toller Vollzeitjob oder Schüler/Studenten mit Nebenjob und dann noch x Freunde und dann noch eine Aufgabe wie Krimifälle lösen, Vampire jagen etc. Der Ermittler, der jede noch so seltene Erkrankung kennt, Bibelstellen aus dem FF zitiert und sonst auch um keine Klugscheißerei verlegen ist. - Wobei ich mich frage, wegen "stören": Ich schaue es trotzdem. Ich schaue es. "Star Trek" ist ein erstaunliches Phänomen, alle hassen alle neue Serien, schauen sie aber doch und meistens tritt ein Gewöhnungseffekt ein. Wir werden sehr schimpfen, aber können wir uns bei gewissen Dingen, von denen wir neben ein paar neuen Sachen vor allem ein typisches Muster erwarten, nicht sehr schnell damit abfinden? - Ich könnte mir eine Star Trek Episode sehr gut vorstellen, wo es vorgegebene Charaktere gibt, dann brauch ich noch einen typischen Spruch, "Wiederstand ist zwecklos!", "Er ist tot, Jim!" oder aktueller: "Sie ist eine Königin!", der mindestens ein Mal pro Folge vorkommen muss. Und natürlich ein Dilemma wie dürfen die Oberste Direktive brechen, indem wir ... wie auch immer irgendwelchen unterentwickelten Aliens helfen. Also gerade für das könnte ich mir vorstellen, dass die KI so einem Autorenteam wirklich sehr vernünftigen Input liefert. 

Zitat

Es kommt ja auch drauf an, wo man seine Bücher kauft. Im Massensupermarkt oder im Internet, in der Buchhandlung oder beim kleinen, feinen Buchhändler um die Ecke.

Das ist eine Frage, die mich schon lange beschäftigt. Es gibt sicherlich immer wieder mal gute Buchhandlungen, aber ich hatte auch Ärgernisse damit. Speziell als sehr junge Frau, die ständige Behauptung, die Bücher einer Fantasyreihe ließen sich auch durcheinander lesen, wenn Band 1 nicht da war. Nein, das ist sehr oft nicht der Fall. Kann man, aber es mindert das Lesevergnügen doch stark. Beim Hörbuch nicht reinhören zu dürfen, ob der Sprecher eine angenehme oder zumindest erträgliche Stimme hat. (Ein Verkäufer meinte, ich soll zu Amazon gehen, dort probehören - damals gab es noch keine Smartphones, also das bedeutete heimfahren ... na und wundert es dann noch wer, dass man dann im Internet bestellt oder wie in meinem Fall gar nicht kauft?) Buchhändler, die so wenig Vertrauen in einen haben, dass man vorbestellte Bücher gleich zahlen muss - v.a. wenn man dann erfährt, dass es nicht Usus dort ist, ist das auch diskriminierend. Da fragt man sich dann auch, warum ich und andere nicht? Aussagen wie: "Ja, kann ich bestellen, aber ich weiß nicht, ob ich nicht Porto dazurechnen muss." - Na ja, im Internet weiß man das meistens. Also ich würde nie ein Buch bestellen, wo ich nicht so genau weiß, wie viel das am Ende kostet, bestellen. Und manche sind ja auch verrückt und versichern das, weil es ja in große böse Ausland geht. (Wie kann man bitte was mit einer Summe versichern, die nahe am Kaufpreis ist?) 

Ich lese ja relativ viele Kleinstverlagbücher. Nicht so viele, wie ich eigentlich will, aber ich nominiere z.B. für einen SF-Preis und sehe, dass ich gar nicht so schlecht dastehe mit meinen Vorschlägen. Und da ist mit Buchhandel oft nichts zu machen. Und warum verlangt der Verlag bei Direktbestellung Porto und bei Bestellung über Amazon kommt es frei Haus?  

Das ist aber eigentlich ein eigenes Thema, warum soll man heutzutage noch in die Buchhandlung? Um sich ein Buch, von dem schon weiß, zu bestellen? Um zu stöbern? Macht es überhaupt Sinn, wenn man eine Lesespezialisierung von sagen wir mal drei verwandten Genres hat oder nur Sachbücher will, überhaupt in einen Laden zu gehen, wo alle Genres vertreten sind? Was gibt es noch an Angebot - Autorenlesung? Buchdiskussionsrunde im Laden? - Und rutscht mir dann wie aus Zauberhand ein nettes Buch in die Hand. (Das ich, da nicht kriminell, natürlich artig zur Kasse bringe.)

[Ramona]

vor 21 Stunden schrieb Nina:

Ansonsten ist auch die Frage, wie wichtig Leuten der Künstler ist. Bei Autoren sehe ich eher, dass die Person dahinter den Leuten oft relativ egal ist. Gerade auch das Aussehen. 

Kommt darauf an. Viele Menschen suchen beim Lesen auch nach "Ikonen", sei es eine bemerkenswerte Romanfigur oder eben ein/e charismatische/r Autor/in. Bei letzterem spielt das Buch eher eine untergeordnete Rolle. Aber warum sollte eine KI eines Tages nicht auch über "Charisma" verfügen …  

Bearbeitet 20. September von Ramona

[Nina]

vor 3 Stunden schrieb Ramona:

Kommt darauf an. Viele Menschen suchen beim Lesen auch nach "Ikonen", sei es eine bemerkenswerte Romanfigur oder eben ein/e charismatische/r Autor/in. Bei letzterem spielt das Buch eher eine untergeordnete Rolle. Aber warum sollte eine KI eines Tages nicht auch über "Charisma" verfügen …  

Ja, viele greifen zu Büchern von Promis. Die aber dann aller Wahrscheinlichkeit nach gar nicht von dem Promi geschrieben wurden. 

Dann gibt es gerade im sexuell expliziten Bereich ohnehin fast nur erfundene Autorenbiographien. Also KI - was soll´s.

Ansonsten ja, aber da gibt es auch manches: Ist ein berührender Roman über den Holocaust weniger wertvoll, wenn sich rausstellt, dass der/die VerfasserIn gar nicht im KZ war wie angegeben? Und wenn derjenige ohnehin nicht da war, kann das gleich die KI übernehmen? 

Und ja, wie gesagt, Menschen suchen Vorbilder. Gerade bei Autoren, die zum Bestseller hinsteuern, möglichst arm, aber fleißig scheint mir das zu sein, das gut ankommt. 

[GünterW]

Am 19.9.2023 um 01:27 schrieb GesineS:

, ob KI zum Einsatz kam – sei es beim Schreiben, der Bilderstellung oder bei Übersetzungen. Dabei gibt es die Kategorien KI-unterstützt und KI-generiert.

Ich stelle mir die Frage, wie man „KI-unterstützt“  definiert. Papyrus oder Word gelten dann auch als KI? 
wie ist in diesem Fall „Künstliche Intelligenz“ genau definiert?  Diese KIs sind nichts anderes als gut gemachte Softwares. Und jedes „KI generierte“ Buch ist so gut wie der Mensch, der sich dieser Softwares bedient. Und wenn es die Kategorie „KI-generierte“ gibt, ist auch immer ein Mensch mindestens daran beteilig. 
Echte KIs gibt es nicht. Somit schießt man hier mit riesigen Kanonen auf  Mini-Schatten-Spatze. 

[Christa]

vor 8 Minuten schrieb GünterW:

Ich stelle mir die Frage, wie man „KI-unterstützt“  definiert. Papyrus oder Word gelten dann auch als KI? 
wie ist in diesem Fall „Künstliche Intelligenz“ genau definiert?  Diese KIs sind nichts anderes als gut gemachte Softwares. Und jedes „KI generierte“ Buch ist so gut wie der Mensch, der sich dieser Softwares bedient. Und wenn es die Kategorie „KI-generierte“ gibt, ist auch immer ein Mensch mindestens daran beteilig. 
Echte KIs gibt es nicht. Somit schießt man hier mit riesigen Kanonen auf  Mini-Schatten-Spatze. 

Ja, so würde ich es auch sehen. Niemand würde schreiben "Mit Hilfe von Papyrus oder Word erstellt." Wobei das keine KIs sind, glaube ich. Und ich glaube, dass ein rein von der KI generiertes Buch - ein nicht vom Mensch geprompter Text - ein heilloses Durcheinander wäre.

Wobei ja schon klar ist, dass diese Erklärung Pilzvergiftungen und anderen schrecklichen Irrtümern vorbeugen soll - wie ein Wikipedia-Eintrag.

[Sebastian Niedlich]

*seufz*

Es sollte eigentlich ziemlich klar sein, was mit KI gemeint ist, auch wenn die entsprechenden Programme wie ChatGPT oder Bard strenggenommen keine KI sind. Aber wenn ihr unbedingt auf einer Definition beharrt:
Es geht um Texte, die auf Basis einer Interaktion mit Programmen entstanden sind, die auf maschineller Lerntechnologie basieren.

Papyrus, Word etc. sind zwar Programme, nutzen aber (bis jetzt?) keine KI bzw. maschinelles Lernen darin.

Und, nein, Christa. Ein von der KI generiertes Buch wäre kein heilloses Durcheinander. Das ist ja das Problem. Aber dazu haben wir ja auch den KI Megathread, wo wir das ausführlichst diskutiert haben. Die Gefahr geht gerade eben davon aus, dass die Texte durchaus Sinn ergeben. Ich würde lediglich zustimmen, dass es bis dato nicht ohne einen entsprechenden Prompt auskommt. Das ist im Moment noch die Basis. Aber dazu gehört ja nun nicht viel.

.

[Christa]

vor 14 Minuten schrieb Sebastian Niedlich:

Und, nein, Christa. Ein von der KI generiertes Buch wäre kein heilloses Durcheinander. Das ist ja das Problem. Aber dazu haben wir ja auch den KI Megathread, wo wir das ausführlichst diskutiert haben. Die Gefahr geht gerade eben davon aus, dass die Texte durchaus Sinn ergeben. Ich würde lediglich zustimmen, dass es bis dato nicht ohne einen entsprechenden Prompt auskommt. Das ist im Moment noch die Basis. Aber dazu gehört ja nun nicht viel.

Ich meinte eigentlich auch nicht "heilloses Durcheinander", sondern für mich unlesbar, auch wenn es einen gewissen Sinn ergeben mag. Auf jeden Fall ist es doch falsch zu sagen "von der KI generiertes Buch." Bis jetzt wenigstens ...

[GünterW]

vor 10 Stunden schrieb Sebastian Niedlich:

Die Gefahr geht gerade eben davon aus, dass die Texte durchaus Sinn ergeben. 

Zumindest für einfache Gemüter wirken dann offensichtlich grammatikalisch einwandfreie Texte „sinnvoll“. Inhaltlich kann es dann, wie im Falle von giftigen Pilzen, tödlich enden.
Genau das halte ich derzeit für gefährlich: Den größten Unsinn in wohlgesetzten Worten und mit einem wissenschaftlichen Duktus verbreiten. Gut, das hat’s schon immer gegeben. Verschwörungstheoretiker, die nicht zwischen Fakt und Fiktion unterscheiden können, wurden schon immer gut gefüttert. Wenn es jetzt unter dem Prädikat „KI-Generierter Text“ verbreitet wird, obwohl es KEINE echte KI ist, wird’s noch gefährlicher. Nach dem Motto „Wenn die KI sagt, es ist nicht giftig, dann esse ich das“ wird es dann Opfer geben.

 

[AndreasE]

vor 19 Stunden schrieb Christa:

Niemand würde schreiben "Mit Hilfe von Papyrus oder Word erstellt." Wobei das keine KIs sind, glaube ich.

Nein, Papyrus enthält keine KI. Die Funktionen wie Rechtschreibprüfung, Grammatikprüfung, Stilanalyse, Lesbarkeitseinschätzung usw. beruhen, wie alle bisherige Software, auf Algorithmen.

KI ist übrigens auch eine Energiefrage. Hinter jeder Antwort von Chat-GPT steckt ein Energieaufwand, der "eyewatering" sei, wie ich mal irgendwo gelesen habe. Und der größte Teil der Energieerzeugung ist heutzutage immer noch mit CO2-Ausstoß verbunden. Man müsste auf den Aufkleber also schreiben: "Dieses Buch ist mit KI-Hilfe entstanden und hat durch seine Entstehung die Klimaerwärmung befördert."

[Christa]

vor 9 Stunden schrieb GünterW:

Nach dem Motto „Wenn die KI sagt, es ist nicht giftig, dann esse ich das“ wird es dann Opfer geben.

In dem Pilzratgeber wurde offensichtlich empfohlen, die Pilze nach Geruch und Geschmack zu sammeln. Jetzt beiß mal in einen grünen Knollenblätterpilz!

vor 3 Stunden schrieb AndreasE:

Nein, Papyrus enthält keine KI. Die Funktionen wie Rechtschreibprüfung, Grammatikprüfung, Stilanalyse, Lesbarkeitseinschätzung usw. beruhen, wie alle bisherige Software, auf Algorithmen.

KI ist übrigens auch eine Energiefrage. Hinter jeder Antwort von Chat-GPT steckt ein Energieaufwand, der "eyewatering" sei, wie ich mal irgendwo gelesen habe. Und der größte Teil der Energieerzeugung ist heutzutage immer noch mit CO2-Ausstoß verbunden. Man müsste auf den Aufkleber also schreiben: "Dieses Buch ist mit KI-Hilfe entstanden und hat durch seine Entstehung die Klimaerwärmung befördert."

Stimmt, das hattest du schon mal erklärt, ich war mir bloß nicht mehr sicher. Und diese Wortfortschreibungen im Smartphone, sind das auch Algorithmen?

Was den CO2-Ausstoß betrifft: Man muss sich, wenn man bei ChatGPT eine Anfrage stellt, überlegen, dass das Training eines einzigen Modell so viel CO2 ausstößt wie 100 Haushalte in den UA im Jahr. Da nützt es auch nichts, beim Schreiben nebenher eine Möhre aus dem Bioladen zu knabbern.