écriture et IA

[Sorryf]

Yo les plumes !
J'ai entendu une émission à la radio qui parlait des IA dans l'écriture, et ça m'a fait réfléchir, je n'y connais pas grand chose en IA, ça m'a toujours fait flipper et là depuis quelques temps elles débarquent de partout, alors je me demande : en vrai, c'est flippant ou pas ? J'aimerais bien les avis de plumes qui s'y connaissent mieux que moi, notamment sur la place des IA en écriture.

Perso, je suis à la grande ramasse, j'écris encore sur papier C'est pour ça que je demande, mais pour l'instant voilà les trucs que j'ai sur le cœur concernant l'écriture avec les IA :
/!\ alerte pavé /!\

I- Les IA qui écrivent
- J'ai lu un tweet un jour de quelqu'un qui devenait accroc aux fanfics écrites par des IA, genre il disait à chatGPT : "ecris moi un narutoXsasuke ennemy to lover ou ils sont enfermés dans un débarras et avec beaucoup de dialogues" (jvous jure qu'c'est pas moi ) et BOUM, la nourriture est pourvue ! et après tu ajoutes "pareil mais plus long" "pareil mais avec plus de dialogues" et tu en as jusqu'à plus faim! En tant qu'autrice de fanfic ça m'a un peu dévastée de lire ça

Spoiler

en tant que lectrice, ça m'a ouvert des horizons

- je dis ça mais en vrai, lire une histoire écrite par une IA n'a aucun interêt à mes yeux, si je voyais une fanfic/un roman avec un petit logo "written by AI", quel que soit le sujet ça me couperait l'envie... mais imaginons que c'est super bien, que tout le monde recommande, alors ? Tout ça va changer si vite... et aussi, comment le deviner, s'il n'y a pas de logo ?

Ca c'est pour la partie facile, dans le cas ou L'IA écrit un texte toute seule, mais je pense que c'est rare. Dans la majorité des cas, l'IA est un outil, une aide pour un auteur, et c'est ça qui m'a interrogée le plus:

II- Les IA comme outil

- L'interwievée dans l'émission disait qu'écrire avec une IA permet de surmonter l'angoisse de la page blanche, et ça, nous, l'angoisse de la page blanche, on aime pas ! Comme quoi l'IA n'est qu'un outil, il faudra toujours un auteur, et comme chacun le sait, ce ne sont pas les gundams qui tuent les gens, mais ceux qui les pilotent Du coup, là-dessus, qu'en pensez-vous ? Est-ce qu'il y en a ici qui utilisent L'IA comme outil ? Est-ce que c'est autorisé sur PA ou interdit comme les IA pour les couvs ? comment deviner si un texte ou un dessin a utilisé une IA ou non ?

- L'émission parlait d'un éditeur SF qui se retrouvait submergé de textes écrit par les IA et les refusait tous d'emblée. Une autre éditrice disait que l'IA n'a fait qu'aider, c'est aussi idiot que de refuser les textes qui ont utilisé un correcteur auto. Qu'est-ce que vous en pensez, ceux qui s'y connaissent ?

- Un truc cool avec les IA, d'après les quelques personnes que j'ai entendu défendre (il y en a pas beaucoup, en général j'en entends du mal), c'est que c'est un outil qui permet de démocratiser le savoir-faire, grace aux IA tout le monde peut écrire (dessiner), meme ceux qui ne savent pas faire, et donc tout le monde peut donner vie à ses idées, et c'est beau. Mais du coup, je me dis, on a tous des idées, moi perso j'ai des tonnes d'idées de JV qui marcheraient du feu de Dieu mais comme je ne sais pas faire de JV elles ne verront jamais le jour, et je suis certaine que quasi tout le monde est comme ça, on a des idées géniales qu'on n'exploite pas faute de savoir-faire. Mais dans ce cas, est-ce que ces idées sont réellement si géniales ? L'angoisse de la page blanche, si elle nous freine pas on écrirait n'importe quoi non ? Si on a pas la force de se battre pour notre idée, c'est que peut-être elle est pas si importante pour le monde ? Si tout le monde a les moyens de sortir la moindre de ses idées géniales, on va être submergés de contenu, et les bonnes idées, celles qui font bouger le monde, elles vont se retrouver noyées dans la masse, tout va se jouer sur la pub, et comme on sait, c'est la pub qui nous cible, on ne choisit rien, et c'est la pub qui nous oriente, qui nous donne nos idées, qui déforme notre vision du monde, donc nos idées géniales elles seront de plus en plus cloisonnées et cloisonnantes. Je suis en roue libre là non ? Et est-ce que en pensant comme ça, on ne se priverait pas de tout un tas de chefs-d'oeuvre qui sans IA ne verraient jamais le jour ?

- Je monte sur mes grands chevaux contre l'utilisation des IA en écriture, mais je traduis mes fanfics en anglais avec des traducteurs auto, ça fait plusieurs années que je fais ça. Bien sur je corrige par-dessus mot par mot, mais bon, de la à se servir d'une IA pour écrire, ce n'est qu'une dif de degrés au final.

III- Les arguments "rassurants" que j'ai entendu ici et là :

- Un autre des interviewés à la radio disait en gros : "rho mais non les IA en écriture ou art c'est pas du tout dangereux. Les IA en armement militaire, ça c'est dangereux!" mais curieusement ça ne me rassure pas

- Une amie a moi m'a dit un jour que je stressais des IA : "les gens ont peur du progrès comme d'hab. Mais les robots, ils vont remplacer les gens qui pensent comme des robots". Certes, cette punchline claque mais je la trouve pas rassurante non plus, je veux dire, ma pote est bien désinvolte de s'exclure des gens qui pensent comme des robots. Perso, double-vax et manipulée par la peur au point de voter en 2017 pour quelqu'un que je déteste (au 2eme tour, hein j'essaie de me justifier) je ne suis pas si sure que ça de ne pas penser comme un robot. D'ailleurs a partir du moment ou on fréquente un RS qui offre du contenu ciblé, c'est fini, on est de la matière à penser comme des robots, non ?

Et je termine ce post sur un twist : c'est ChatGPT qui a écrit ce pavé ! je n'ai fait qu'ajouter les emojis (c'est le plus gros du travail xD)! c'est dingue, non ?

Spoiler

Mais non je déconne, je risque pas d'utiliser ChatGPT, je n'utilise même pas antidote (je ferai bien)(je voulais vous laisser y croire un moment, pour l'expérience, mais j'avais trop peur qu'on me réponde "AH ça explique tout, ce post est tellement mal foutu ça se voit trop qu'il a été écrit par une IA" alors que j'y ai passé 2 jours )

désolée pour le pavé philosophique ! En plus sur un sujet que je maitrise pas, c'est toujours comme ça J'aimerais beaucoup entendre d'autres sons de cloche sur le sujet, je trouve ça très intéressant ! J'espère que ce sujet à sa place sur le forum.

l'émission de radio : https://www.radiofrance.fr/francecultur ... tificielle

[Tara]

Salut !
Je suis content que quelqu'un aborde le sujet !
(Et j'ai eu un instant de bug quand tu as dit que ton paragraphe avait été écrit par une IA )

En vérité, moi aussi ça me fait peur.
Avec le développement de ChatGPT, on a vu que beaucoup d'élèves commençaient à l'utiliser pour faire leurs devoirs à leur place. Ce qui m'inquiète, c'est un futur où on n'aurait plus besoin d'artistes, car les IA peuvent faire ce travail à notre place.
Comme je dessine beaucoup aussi, je m'informe sur les IA qui génèrent des peintures et des dessins, j'ai lu plusieurs histoires et témoignages d'artistes destitués de leur emploi car leur travail pouvait être fait par une IA.

Je ne m'y connais pas trop non plus dans ce domaine, et c'est pour ça que j'essaie de me renseigner afin de me rassurer. Mais ce que je lis ne me rassure pas du tout ! Je vois que des éditeurs reçoivent des manuscrits écrits avec des IA, je vois que des IA volent le travail d'autres artistes sans leur consentement... Moi qui ai toujours rêver de me lancer dans le dessin et dans l'écriture, je me fais du soucis quant à mon avenir.
Que faire ? Que penser ? Est-ce une bonne idée ? Est-ce juste un scepticisme par rapport à une avancée technologique, comme jadis nous avons été sceptiques à propos d'internet ou à l'invention des réseaux sociaux ?

Je pense que ce qu'il faudrait faire en priorité, c'est inventer une législation. Cela voudrait dire poser des règles, et restreindre des libertés, se confronter à ceux qui vont protester contre ces législations. Mais, sans contrôle, l'IA peut devenir néfaste pour beaucoup de personnes, pas seulement pour les écrivains et autres artistes... Créer des règles, des lois à respecter quant à l'utilisation de l'IA permettrait de pouvoir endiguer cette terreur qui s'empare des gens à l'idée de perdre leur métier au profit d'une IA, mais cela peut aussi protéger le travail de beaucoup d'illustrateurs, qui ont été volés par des IA.

J'ai l'impression que mon paragraphe est un vrai foutoir (pardon pour ce gros mot), mais je crois que j'avais besoin d'exprimer mes nombreuses inquiétudes à ce sujet...

[Soah]

Coucou Sorry et merci d'avoir lancé ce sujet qui est très intéressant.

Avant de répondre en tant que simple plume, je me permets un petit point modo : les IAs (notamment d'illustrations) sont interdites sur PA tant qu'il n'y aura pas de législation à ce sujet. Pour l'instant, nous refusons l'utilisations de celles-ci car elles volent le travail d'illustrateurices qui n'ont rien demandé et ne sont pas crédité·es. Donc, en faire la promotion serait assez mal venu. Je rappelle également que Pinterest n'est PAS un endroit où l'on trouve des images libre de droit.
** Ma foi, pour l'instant- à moins que l'on nous annonce le contraire - chatGPT n'est pas nourri avec des sources non-consenties. (note : il paraît que google donne à manger à des IAs via google doc. Donc, ne prenez pas de risques et retirez vos écrits de cette plateforme)
De fait, il recrache des trucs vraiment... banals, parfois faux ou pas totalement vrais et on va dire que c'est pas très pertinent, très intéressant parce qu'il manque à cette IA, ce qui fait qu'un livre est "bon" et touche des lecteurices : l'imaginaire ; la réflexion un peu tarabiscotée derrière ; les émotions. Je ne me sens donc pas menacée - en tant qu'auteurice de métier - par lui. Je sais que mes histoires, aujourd'hui et dans le demain proche, seront meilleures que celles écrites par une IA, quoi qu'il arrive. Et, il y a un "style" IA qui est justement, l'absence de style. Ou la copie d'un style dans le domaine public (écrit moi une histoire comme Jane Austen, par exemple...) sans pour autant parvenir à être une copie carbone.

Toutefois, s'il racontait pas des carabistouilles, je peux lui reconnaître des qualités pour de la recherche. Lorsque je travaille sur certains sujets que je ne maîtrise pas, une grande partie de mon travail c'est de parcourir tout internet, en plusieurs langues, pour trouver des infos. Si une IA était capable de me répondre sans bêtises, ça me ferait gagner un temps précieux.

Quant à la page blanche, je pense que ça ferait naître un syndrome plus dérangeant : celui de l'imposteurice. En remaniant un texte que l'on a pas écrit, lorsque l'on est artiste, je pense que ça peut faire naître une culpabilité assez poussée. Pour la vaincre, il y a jamais rien de mieux que le repos, nourrir son imaginaire et faire des exercices de style - selon moi.

Pour les IAs qui dessinent, j'ai déjà exprimé mon opinion dans le disclaimer mais : c'est du vol. Et, je ne le répèterais jamais assez : tout le monde peut dessiner. Tout le monde peut écrire. La différence entre quelqu'un qui fait de superbes illustrations et quelqu'un qui fait des bonhommes bâtons, c'est le temps passé à pratiquer son art. Le dessin - au même titre que l'écriture - c'est particulièrement ingrat car solitaire, les paliers de progressions sont difficiles à ressentir passé un certain "niveau" et c'est chronophage. En utilisant une IA "parce que je ne sais pas faire x ou y", on invalide le temps qu'une autre personne a passé pour maîtrisé son art. Ce savoir-faire, il ne tombe pas du ciel, il ne se trouve pas sous le sabot d'un cheval. Ce sont des heures et des heures de pratique, des échecs et parfois, des réussites.
C'est okay de ne pas savoir faire x ou y choses MAIS il ne faut pas punir autrui de leur investissement. Je ne sais pas dessiner ? Soit je remonte mes manches et j'apprends (il y a foule de tutos sur internet), soit j'économise et je paie quelqu'un qui sait faire.
C'est comme un gâteau : vous pouvez le faire vous-même, au risque que ça soit pas fameux pendant une ou deux fois ou le commander à un pâtissier/quelqu'un qui sait faire des gâteaux.

Bref, pour moi, tout dépend de la façon dont a été nourrie une IA. Par le vol et l'illégalité, je ne veux pas en entendre parler. Par des biais légaux et consentis, je suis curieuse. Et je sais que, dans quelques temps, il y aura probablement des vagues de soumissions de manuscrits ou de roman en AE qui seront écrits via cet outil. Toutefois, je me dis que ça ne pourra jamais remplacer un être humain.

Spoiler

Jusqu'au jour où si, on pourra se faire remplacer mais bon, à ce moment-là, j'utiliserais les IAs pour écrire des séries de romans de fesses pour m'enrichir !

[Sorryf]

Avec le développement de ChatGPT, on a vu que beaucoup d'élèves commençaient à l'utiliser pour faire leurs devoirs à leur place.

Ah oui, j'ai entendu comme argument que ce que les jeunes ont besoin d'apprendre, c'est de s'adapter au monde et utiliser les outils qu'ils ont à leur disposition, plutôt que des connaissances à l'ancienne. Ce qui peut s'entendre, et grace à ça ils ont un gain de temps, temps qui peut être employé à faire tout un tas de super trucs...
Mais ce qui m'angoisse (parce que je suis comme toi : ça m'angoisse tout ça !) c'est que si les IA font les recherches et la création à notre place, on a plus tellement de choses à faire (il reste le sport).
Je pense que remplacer les boulots à risques/abrutissant par des IA ou des robots ça peut être une bonne chose (mais il faudrait repenser tout le système, faire une société qui tourne pas autour du travail), mais remplacer les savoir-faire, et la création par des IA, c'est priver les gens de ce qui peut les motiver. Pourquoi se faire chier à apprendre des trucs quand l'IA les fait mieux ?
J'ai l'impression (je suis un peu matraquée je sais) que : temps libre moins motivation = go scroller sur les RS = cerveau à dispo pour le contenu ciblé = jackpot pour ceux qui ont le pouvoir d'orienter pour nous que penser et que consommer.

Que faire ? Que penser ? Est-ce une bonne idée ? Est-ce juste un scepticisme par rapport à une avancée technologique, comme jadis nous avons été sceptiques à propos d'internet ou à l'invention des réseaux sociaux ?

Je me dis ça aussi, je suis ptêtre juste une vieille conne
Je vais dire une banalité, mais si tout l'argent investi pour améliorer les intelligences artificielles était dépensé pour l'éducation des vraies personnes, on aurait peut-être pas tant besoin d'IA. C'est ça qui m'énerve dans cette technologie, on développe un truc dont on avait pas besoin, qu'on va rendre indispensable et qui ne va causer que des problèmes, et c'est pas faute d'avoir été prévenus.

Spoiler

Oups... en flag de vieille-connerie

(note : il paraît que google donne à manger à des IAs via google doc. Donc, ne prenez pas de risques et retirez vos écrits de cette plateforme)

Tu fais bien de me le dire !!! Est-ce qu'ils piochent aussi dans le onedrive de outlook ? J'ai toutes mes fanfics douteuses dedans Est-ce que laisser nos docs dans ces plateformes pourrait permettre en grande quantité de diriger les réponses des IA ? c'est abusé comme c'est dangereux ! (j'ai entendu des histoires d'IA spammées par 4chan qui deviennent fachos en quelques heures )

Je pense pas que utiliser des IA puisse créer un syndrome de l'imposteur en vrai : a mon avis ce syndrome il est en nous ou non, mais complètement indépendant de notre manière de faire. Ceux qui utilisent chatGPT pour écrire ont l'impression de se servir d'un outil, pas de voler la place de quelqu'un je pense (ou alors si mais sans que ce soit lié). Personne ne développe un syndrome de l'imposteur en utilisant Antidote, par exemple, si ? Enfin ceux qui pourraient développer un syndrome de l'imposteur à cause de ça n'iraient instinctivement pas vers ces technologies ?

Et, je ne le répèterais jamais assez : tout le monde peut dessiner. Tout le monde peut écrire.

Je vois ce que tu veux dire dans le sens ou les gens qui dessinent ne sont pas de rares élus qui ont reçu un don du ciel, c'est du travail et du travail. Mais de là à dire que tout le monde peut le faire, pour le coup, je suis pas d'accord (un peu comme cette histoire de traverser la rue pour trouver du taf). Apprendre à dessiner, écrire, comme t'as dit ça demande énormément de temps, mais aussi une certaine discipline, de la motivation, du calme... tout le monde ne peut pas le fournir, ce travail. Et les IA c'est tellement facile que ça deviendra encore plus dur de se motiver.

C'est okay de ne pas savoir faire x ou y choses MAIS il ne faut pas punir autrui de leur investissement. Je ne sais pas dessiner ? Soit je remonte mes manches et j'apprends (il y a foule de tutos sur internet), soit j'économise et je paie quelqu'un qui sait faire.

Idéalement oui, mais si on offre aux gens une 3eme option : tu as ce que tu veux gratos et sans faire d'effort, beaucoup choisiront cette option là sans rien en avoir à foutre que des artistes derrière ne soient pas payés. Quasiment tout le monde, je pense, y a qu'à voir l'envers du décor de ce qu'on consomme en alimentaire, en tech, en mode. Il faudrait une légistlation c'est sûr, mais maintenant qu'on a eu le jouet, ça sera difficile de nous le retirer.

ça me rassure quand même un peu que Soah tu sois la plus chill de nous 3 alors que tu es la mieux informée j'ai l'impression. C'est bon signe ça !

Spoiler

Malheureusement tu pourras pas t'enrichir en vendant des romans de fesses écrit par chatGPT parce que tout le monde ira directement sur chatGPT pour se faire ses propres scénars de fesses, personne ne sera plus intéressé par l'apport créatif des autres, on tournera tous en circuit fermé encore plus que maintenant
(je voulais conclure cette vision avec une punchline sur la victoire absolue du contenu ciblé mais je sais pas pourquoi je focus autant là-dessus, comme quoi on a pas besoin d'IA pour tourner en boucle )

[Peridotite]

Je pense que remplacer les boulots à risques/abrutissant par des IA ou des robots ça peut être une bonne chose (mais il faudrait repenser tout le système, faire une société qui tourne pas autour du travail), mais remplacer les savoir-faire, et la création par des IA, c'est priver les gens de ce qui peut les motiver. Pourquoi se faire chier à apprendre des trucs quand l'IA les fait mieux ?

Certains prédisent en effet que les IA vont remplacer un bon paquet de boulots intellectuels, à l'instar de la robotisation dans les années 70-80 pour les boulots manuels, amenant une grande vague de chômage. Je ne pense pas que l'argent généré sera redistribué, pourquoi les entreprises feraient-elles ça sans lois et pression de l'état ? De nos jours, on voit déjà des avancées sociales qu'on pensait aquises disparaître. Ça risque de ne pas être rose si ces prédictions s'avèrent exactes.

j'ai entendu des histoires d'IA spammées par 4chan qui deviennent fachos en quelques heures

Non pas besoin pour l'IA d'aller forcément sur 4chan, l'internet de base est suffisamment mysogyne et raciste pour ça, cf cet article dans le journal Le Monde : Le Monde - Quand l'intelligence artificielle reproduit le sexisme et les racisme des humains


Pour plus d'infos sur les IA et leurs fonctionnements, je vous conseille les chaînes YouTube de Mr Phi et de Sciences Étonnantes. Ils ont tous deux réalisés une ou deux vidéos sur le sujet qui expliquent vraiment bien comment ça fonctionne je trouve.

[Soah]

Tu fais bien de me le dire !!! Est-ce qu'ils piochent aussi dans le onedrive de outlook ? J'ai toutes mes fanfics douteuses dedans Est-ce que laisser nos docs dans ces plateformes pourrait permettre en grande quantité de diriger les réponses des IA ? c'est abusé comme c'est dangereux ! (j'ai entendu des histoires d'IA spammées par 4chan qui deviennent fachos en quelques heures )

Alors là, je dois dire aucune idée pour outlook et onedrive. Je ne pense pas mais, au cas où, tu devrais peut-être les stocker ailleurs, sinon, une IA pondra des fic JoJo de qualité supérieure en un rien de temps !

Je pense pas que utiliser des IA puisse créer un syndrome de l'imposteur en vrai : a mon avis ce syndrome il est en nous ou non, mais complètement indépendant de notre manière de faire. Ceux qui utilisent chatGPT pour écrire ont l'impression de se servir d'un outil, pas de voler la place de quelqu'un je pense (ou alors si mais sans que ce soit lié). Personne ne développe un syndrome de l'imposteur en utilisant Antidote, par exemple, si ? Enfin ceux qui pourraient développer un syndrome de l'imposteur à cause de ça n'iraient instinctivement pas vers ces technologies ?

Eh bien figure-toi qu'il y a des gens qui sont trèèèèès déprimés après une utilisation d'Antidote, justement parce que ça pointe du doigt tout ce qui va pas. Du coup, de la reconnaissance basée sur quelque chose que l'on a juste "optimisé", je pense que ça peut faire pas mal de dégâts au niveau psychologique.

Je vois ce que tu veux dire dans le sens ou les gens qui dessinent ne sont pas de rares élus qui ont reçu un don du ciel, c'est du travail et du travail. Mais de là à dire que tout le monde peut le faire, pour le coup, je suis pas d'accord (un peu comme cette histoire de traverser la rue pour trouver du taf). Apprendre à dessiner, écrire, comme t'as dit ça demande énormément de temps, mais aussi une certaine discipline, de la motivation, du calme... tout le monde ne peut pas le fournir, ce travail. Et les IA c'est tellement facile que ça deviendra encore plus dur de se motiver.

Alors le calme, c'est relatif ; je me souviens de session de dessins dans les transports en commun, c'est quelque chose Mais oui, c'est vrai qu'il y a des conditions d'apprentissage qui sont nécessaire pour que la mayonnaise puisse prendre mais c'est comme pour tout. Apprendre quelque chose nécessite de bonnes conditions. Et malheureusement, certaines personnes ne sont pas favorisées dans l'apprentissage, je le reconnais.
Toutefois, je reste un peu sur cette position : tout le monde peut avoir la capacité de dessiner/d'écrire. Y a pas d'élu·es entouré·es de la lumière divine du saint graphite/du divin clavier. Et dés que l'on fait un petit grigri, on dessine - c'est ça qui est beau et fantastique. Par contre, forcément, il y a des inégalités en fonction du temps que l'on peut (que l'on veut, parfois) accordé à une pratique artistique.

Idéalement oui, mais si on offre aux gens une 3eme option : tu as ce que tu veux gratos et sans faire d'effort, beaucoup choisiront cette option là sans rien en avoir à foutre que des artistes derrière ne soient pas payés. Quasiment tout le monde, je pense, y a qu'à voir l'envers du décor de ce qu'on consomme en alimentaire, en tech, en mode. Il faudrait une légistlation c'est sûr, mais maintenant qu'on a eu le jouet, ça sera difficile de nous le retirer.

Malheureusement, en France, les métiers créatifs sont hyper dénigrés à cause du manque de professionnalisation en amont. Il y a qu'à voir aux US, personne n'a honte de dire que son métier, c'est auteurice. Et, il y a des cursus de fac pour ça. On est pas bien loti parce qu'on cultive le mythe du génie dans sa cave, de l'élu divin, du talent passion, toussa.

Par contre, ça me fout vraiment en colère de voir des auteurices (même des MEs, là c'est encore pire xD) utiliser les IAs comme midjourney parce que en général iels sont prompts à hurler quand leurs droits d'auteurices ne sont pas respectés mais pour les adelphes artistes : c'est niet. Tout comme beaucoup ignorent/snob, le droit à l'image des personnes connues. Pire, y a des illustrateurices qui utilisent midjourney pour s'emparer du boulot de leurs camarades pour capitaliser dessus. C'est peut-être moi qui ai un sens de l'éthique en béton armé mais... Ca me dépasse.

Après, je sais pas si je suis si chill que ça parce que je me dis qu'on arrivera pas à me remplacer ou si c'est parce que je ne saurais pas voir la forêt en feu juste à côté de chez moi
Je sais que des éditeurices ont déjà reçu des textes écrits via IAs et que ça n'a pas convaincu/ça se voyait que c'était pas "humain" - notamment parce que c'est très générique, y a pas de style ou même d'erreurs à part le fait que c'est planplan/convenu. Fort heureusement, ChatGPT n'a pas été nourrit (pour l'instant) avec des textes littéraires mais le jour où quelqu'un décide de faire une IA en incluant tout le catalogue de ce qui est libre de droit niveau récit dans le monde... Là, je me ferais peut-être un peu plus de soucis. Pour l'instant, je me dis que mes projets chelous ont un avenir devant eux

[EryBlack]

Je vous trouve extrêmement nuancées et prudentes dans vos réponses alors je vais me permettre d'apporter un peu de radicalité à tout ça :') radicalité qui n'engage que moi bien sûr, mais comme Sorryf j'ai l'impression que tu prends des tas de gants et que tu ne veux pas passer pour une "vieille conne", bah je vais y aller un peu plus franco parce que je ne trouve pas que ce soit le cas du tout !

Pour moi on ne peut pas se poser ces questions sur l'IA sans considérer de manière lucide la société dans laquelle nous vivons. C'est une société qui exploite, qui cherche le profit, qui met en concurrence. À partir de là, je pense qu'aucun des techno-outils qu'on invente n'est vraiment une bonne nouvelle (exceptions possibles mais je n'en ai pas en tête) car tout est utilisé pour aller toujours plus loin dans cette logique. Parce qu'on peut le faire, on le fait. Or cette logique est dévastatrice pour les humain·es et plus largement pour le vivant.
Les arguments très souvent évoqués de type "oui mais dans le domaine médical ça peut être super utile !" sont fallacieux : d'abord faut arrêter de prétendre que leur objectif c'est le bien-être général parce que c'est faux, ensuite il a bon dos le domaine médical quand il s'agit de créer des technologies ultra-énergivores, mais quand il s'agit de sauver l'hôpital public en France y a plus personne. Et comme l'explique Aurélien Barreau dans une super conférence YT (son horrible mais propos implacables ; incapable de préciser à quel moment il en parle par contre), évidemment que l'IA a "quelques effets positifs". Comme tout ce qu'on invente en fait. Mais "quelques effets positifs" ça ne devrait pas suffire à mettre en circulation des trucs qui font beaucoup plus de mal à côté.

J'ajouterais que ce genre de technologie ne me fait pas trop peur à long terme parce qu'avec le pillage des ressources naturelles et notamment des métaux rares, qui sont essentiels pour tout ce qui est numérique, on n'aura bientôt plus assez pour alimenter tous ces trucs. (C'est pas moi qui le dit, c'est Aurore Stéphant) C'est un "bientôt" qui est incertain parce que je ne suis pas spécialiste, mais à écouter les spécialistes la pénurie arrivera tôt ou tard. Donc l'IA il faudra y renoncer de manière volontaire ou de manière subie, comme des tas de choses dont on se sert au quotidien (et nos 400 esclaves énergétiques, par exemple ; si cette expression vous est inconnue, apparemment c'est Jancovici qui a commencé à l'utiliser, ça désigne le taff invisible que font pour nous les énergies fossiles, en gros). Bref, l'IA tel qu'on le connaît aujourd'hui, le joujou un peu crétin, il fera des tas de dommages dans les prochaines années, il contribuera probablement à précariser toujours davantage les artistes, à permettre aux entreprises de licencier toujours plus et à éloigner toujours plus les élèves de l'écrit, entre autres conséquences délétères, mais ça ne durera qu'un temps. Et moi ce qui m'intéresse c'est comment faire pour que ce temps soit le plus bref possible.

Pour répondre à quelques points précis :

Un truc cool avec les IA, d'après les quelques personnes que j'ai entendu défendre (il y en a pas beaucoup, en général j'en entends du mal), c'est que c'est un outil qui permet de démocratiser le savoir-faire, grace aux IA tout le monde peut écrire (dessiner), meme ceux qui ne savent pas faire, et donc tout le monde peut donner vie à ses idées, et c'est beau.

Par définition le savoir-faire c'est quelque chose qu'on sait faire ; j'entends par là soi-même, en autonomie. Être dépendant d'une IA pour créer, ce n'est pas du savoir-faire. Je fais confiance à certain·es artistes pour s'en emparer et produire des choses rebelles, surprenantes et qui détourneront encore les codes de l'art déjà bien détournés par le XXème siècle ; mais pour l'essentiel ce qui sera produit avec les IA ce ne sera pas de l'art, ce seront des contenus.
Et je suis d'accord avec Soah en ce qui concerne la démocratisation de l'écriture et du dessin. Bien sûr que matériellement il y a des conditions dont tout le monde ne bénéficie pas (et on peut se battre pour les réclamer), bien sûr que nos cerveaux n'étant pas tous les mêmes il y aura chez certain·es des prédispositions, mais en réalité tout le monde peut écrire/dessiner. Tout le monde ne recevra pas la même valorisation, certes, mais c'est une autre question ça.
L'IA caresse dans le sens du poil un des travers de notre société : la recherche obsessionnelle de facilité, de rapidité et de confort. Qui s'explique parfaitement, mais qui atteint des seuils critiques : trop de facilité = dépossession de nos propres compétences. L'effort reste valorisé sur le mode capitaliste "quand on veut on peut blabla", mais l'effort a aussi pris une coloration un peu négative, type : si on fait trop d'efforts, c'est qu'a priori on n'est pas serein ni tout à fait à la hauteur. Y a tout un réflexion à mener sur ce paradoxe, à mes yeux...

Si tout le monde a les moyens de sortir la moindre de ses idées géniales, on va être submergés de contenu, et les bonnes idées, celles qui font bouger le monde, elles vont se retrouver noyées dans la masse, tout va se jouer sur la pub, et comme on sait, c'est la pub qui nous cible, on ne choisit rien, et c'est la pub qui nous oriente, qui nous donne nos idées, qui déforme notre vision du monde, donc nos idées géniales elles seront de plus en plus cloisonnées et cloisonnantes. Je suis en roue libre là non ?

Pas du tout en roue libre, je suis totalement d'accord avec toi. Pour moi c'est déjà le cas d'ailleurs. Le marché de la littérature est saturé parce qu'on traite le livre comme un produit comme un autre, qui doit répondre à une demande. Alors que l'art n'a pas pour vocation de répondre à une demande.

Ah oui, j'ai entendu comme argument que ce que les jeunes ont besoin d'apprendre, c'est de s'adapter au monde et utiliser les outils qu'ils ont à leur disposition, plutôt que des connaissances à l'ancienne. Ce qui peut s'entendre, et grace à ça ils ont un gain de temps, temps qui peut être employé à faire tout un tas de super trucs...

Là c'est un peu mon domaine et j'ai pas mal varié sur cette question. Je trouve absurde de s'entêter à évaluer les élèves avec pour principale base leurs capacités mémorielles pour plusieurs raisons : 1) L'Histoire avance, le monde grandit (la perception que notre société en a en tout cas), les découvertes s'accumulent : il y a toujours plus de choses à savoir donc c'est absurde d'attendre des élèves de 2020 la même chose que les élèves de 1920 par exemple. 2) Dans la vraie vie on a toujours moyen d'aller chercher l'information, dans un livre, en demandant à quelqu'un, etc. ; on n'est jamais seul à prendre une décision, ou en tout cas ça ne devrait pas être le cas. Donc oui, c'est important qu'on enseigne aux élèves à chercher l'info nécessaire là où elle est. 3) Ça crée des inégalités scolaires (et +) absolument dingues, surtout dans une société aussi saturée d'informations que la nôtre.
Par contre, je ne pense pas qu'on puisse totalement se passer des exercices mémoriels "à l'ancienne". Tout simplement parce que comme je le disais plus haut, toute la belle technologie dont on dispose ne sera pas toujours aussi rutilante et fonctionnelle qu'aujourd'hui. C'est méga important d'avoir le plus de connaissances possibles en stock dans la seule carte mémoire que personne ne peut hacker ou débrancher : la nôtre. Je prendrai pour exemple tout bête le réconfort que des tas de gens étant passés par la prison ont tiré de leur connaissance par cœur de certains poèmes (il me semble que Nelson Mandela en a parlé). Quand on n'a plus que soi à disposition, on est content·es de trouver en soi les ressources nécessaires à notre survie physique et psychique.
Quant au gain de temps, je pense qu'il est illusoire dans notre société. Tout ce qui sert à gagner du temps n'a fait qu'ouvrir la voie à plus de productivité, avec les conséquences dévastatrices qu'on connaît.

Merci d'avoir ouvert ce sujet donc, je suis contente de pouvoir parler de tout ça ! J'espère que je parais sèche avec personne, j'ai lu vos posts avec grand intérêt et je suis très remontée sur cette question (et sur des tas d'autres qui touchent à la techno-bêtise hihi), donc si mon ton paraît critique ou quoi sachez que c'est bien contre l'IA, ses inventeurs (et ses défenseurs fervents dans une certaine mesure), et pas contre les Plumes qui se posent des questions.

[Sorryf]

@Soah

sinon, une IA pondra des fic JoJo de qualité supérieure en un rien de temps !

Flatteuse ! Je vais ptêtre les laisser du coup

@EryBlack

Je vous trouve extrêmement nuancées et prudentes dans vos réponses alors je vais me permettre d'apporter un peu de radicalité à tout ça :') radicalité qui n'engage que moi bien sûr, mais comme Sorryf j'ai l'impression que tu prends des tas de gants et que tu ne veux pas passer pour une "vieille conne", bah je vais y aller un peu plus franco parce que je ne trouve pas que ce soit le cas du tout !

Heureusement que t'es là pour apporter de la radicalité Ca me plait pas l'arrivée des IA, mais j'essaie de garder un discours neutre ici, en vrai c'est pas parce que j'ai peur de passer pour une vielle conne, c'est parce que je suis pas à l'aise d'exprimer un point de vue tranché alors que je suis pas informée sur le sujet (parait-il que une des définitions de l'intelligence c'est de remettre en cause ses intuitions, alors moi je suis bêtement et j'essaie de faire ça xD). J'ai la hantise qu'on pense que je sais de quoi je parle quand je fais de la philosophie de comptoir, et concernant les IA je suis vraiment pas informée, j'ai même pas vu Terminator D'ailleurs c'est pour ça que j'ai créé ce topic, pour m'informer (vous êtes mon chatGPT )

Tout ce que tu dis est très intéressant en tout cas ! j'ajouterai pour l'argument de l'IA utile pour les hôpitaux que les IA à fins médicales n'ont probablement rien à voir à aucun degré avec les IA qui interagissent avec le public pour faire des dessins ou répondre à des questions.

Le fait qu'un jour faute de matières premières il y aura plus tout ça, par contre j'imagine pas que ça se passera comme ça: l'accès a toutes ces technologies de pointes va pas disparaitre, (ou alors pas avant très longtemps), il va juste devenir accessible à une petite élite et creuser encore plus les inégalités d'autant que ceux qui auront accès à la tech seront ceux qui ont déjà le pouvoir et la visibilité.
J'imagine les choses comme ça : Plus d'IA pour que les pauvres trichent au examens et fassent des belles illus avec du contenu volé, et plus de chauffage pour eux non plus, mais toujours des IA pour la chirurgie esthétique des stars et pour faire la guerre. L'ironie de la situation, c'est que les élites ont probablement + de facilités à apprendre un art ou faire appel à un artiste de renom, et donc ils doivent avoir plutôt du mépris pour les IA qui démocratisent l'art (ou comme tu dis : le contenu) au tout-venant. Donc peut-être qu'effectivement les IA comme ChatGPT et Midjourney disparaitront faute de public... mais pas toutes les IA. (petit #j'yConaisRienJeSorsPasDeChezMoi quand meme, je peux pas m'en empêcher )

[EryBlack]

@Sorryf T'as raison de souligner qu'il y a des types d'IA différents. J'ai tendance à mettre un peu tout dans le même sac parce que la techno-dépendance me paraît problématique mais bien sûr mes critiques se concentrent surtout sur les IA génératrices de dessins ou de textes, celles accessibles au grand public et qui proposent en somme du prêt-à-penser, prêt-à-consommer.

j'essaie de garder un discours neutre ici, en vrai c'est pas parce que j'ai peur de passer pour une vielle conne, c'est parce que je suis pas à l'aise d'exprimer un point de vue tranché alors que je suis pas informée sur le sujet (parait-il que une des définitions de l'intelligence c'est de remettre en cause ses intuitions)

Je comprends et je suis partagée sur cette question. D'un côté ça me paraît méga élitiste de dire que y a que les spécialistes qui ont le droit d'exprimer des avis tranchés, d'un autre en effet c'est fatigant sur certains sujets de débattre avec des gens qui n'y connaissent juste rien mais pensent que leurs ressentis suffisent à former une opinion. Mais sur des questions comme l'IA, je pense qu'on a toustes notre mot à dire parce que 1) déjà en tant qu'artistes on est un peu concernés (ou en tant que prof pour ma part par exemple, ou juste citoyenne simplement) et 2) en fait un avis tranché sur l'IA, à qui va-t-il faire de mal ? Au pire, quelqu'un qui s'y connaît un peu mieux arrive derrière nous pour dire "attention, là en fait tu penses ça mais en réalité c'est plutôt comme ça que ça se passe blabla" et si on est capables d'intégrer ces nouvelles perspectives à notre réflexion, ben y a aucun souci à mes yeux.
(tout ça m'évoque tellement ta façon de traiter le sujet du clonage dans Kiwi Ex Machina je trouvais que tous les doutes des persos étaient super bien rendus donc pour moi tu devrais te faire confiance, il y a de la subtilité dans ton jugement, cette histoire en est la preuve !)

Quant à la question de l'épuisement des ressources et tout, alors oui tu as raison, dans une première phase moi aussi je pense que ça va se passer comme ça (je pense même que c'est déjà enclenché sur d'autres trucs que l'IA). Mais ça aussi, ça n'aura qu'un temps, et franchement vu la situation il se pourrait bien que ce temps soit très court. Aucune certitude cela dit vu la force d'immobilisme à laquelle on a affaire ^^'

Une petite confession au milieu de toute cette radicalité (xD) : l'IA et ses possibilités m'ont complètement fascinée quand j'étais ado. J'ai passé pas mal de temps à tchatter avec Cleverbot (une IA certes médiocre mais avec des bons moments de marrade), j'ai même écrit une histoire de SF où les robots ont clairement une personnalité sensible même si j'avais pas en tête que ça impliquait une IA. Tout ça porte un imaginaire très fort qui m'a séduite et continue d'avoir un certain pouvoir sur moi, même si je m'en détache progressivement parce que je trouve aberrant que des histoires imaginaires d'IA m'excitent davantage que la possibilité concrète d'observer et d'échanger avec les intelligences autres qu'humaines qui nous entourent. Tout ça pour dire que je comprends la fascination mais que je ne la trouve pas raisonnable ^^

[EryBlack]

@Sorryf Coïncidence, j'ai reçu hier une notif de Mediapart qui a traité la question des dangers de l'IA dans son dernier Grand Entretien. J'ai pas encore regardé la vidéo et elle est accessible seulement aux abonné·es, mais si ça te branche envoie un mp avec ton adresse mail, en tant qu'abonnée je peux te l'offrir
(c'est d'ailleurs la raison pour laquelle je me permets ce presque-double-post en public plutôt qu'en MP, si y a d'autres Plumes intéressées c'est pareil, je vous offre l'entretien avec plaisir (ça me coûte rien). Après j'ai pas encore regardé mais Mediapart c'est toujours intéressant)

Le lien en question (accessible donc seulement aux abonné·es mais on sait jamais !)