Bruno:
L'IA va nous remplacer. Tout le monde le dit, donc ça doit être vrai. Curseur va coder à notre place, Midjournée va créer des films de demain et ChatGPT va remplacer tous les départements marketing. Ces propos vous font peut-être peur ou rire. Bienheureux serait celui qui a la réponse et elle doit se trouver peut-être quelque part entre les deux. Ce qui est certain, c'est que les IA sont une réalité, mais une réalité qu'il faut connaître et vraiment connaître. Mais alors, quelles sont ses réalités ? La singularité est-elle proche ? Et surtout, est-ce à la portée de tout le monde ? Pour répondre à ces questions singulières, je ne reçois pas Prométhée, mais elle s'y connaît en modèle. Nastasia, bonjour.
Nastasia:
Bonjour.
Bruno:
Alors Nastasia, est-ce que tu pourrais te présenter pour les quelques personnes qui ne te connaîtraient peut-être pas ?
Nastasia:
Oui, très bien. Donc moi, c'est Nastasia. Je suis dans le développement informatique depuis 11 ans maintenant. J'ai plusieurs spécialités. Dans l'une qui est quand même que ça fait plusieurs années que je suis rentrée dans le monde de la data. Donc du coup avant on ne parlait pas d'IA mais finalement c'est ce qu'on appelle aujourd'hui IA même si ça reste un champ plus vaste et c'est un sujet qui m'intéresse beaucoup de vulgariser l'intelligence artificielle parce que je vois alors effectivement ce que tu disais je pense que la réponse est effectivement au milieu de tout ce qu'on raconte sur l'IA Peut-être.
Bruno:
Pas exactement au milieu mais en tout cas quelque part entre les deux.
Nastasia:
C'est ça Est-ce.
Bruno:
Que toi du coup qui es sur ces sujets de data, Est-ce que tu as été confronté à un ensemble de questions, parfois intelligentes, parfois un peu, on va dire, non éclairées sur le sujet ? Parce qu'on a l'impression que tu portes, en fait, tous ces sujets d'IA.
Nastasia:
Beaucoup en fait peut-être un peu trop mais en fait, le problème de pas comprendre l'IA ça a un aspect social qui fait qu'il y a des gens qui ont peur il y a des gens qui ont des fantasmes plutôt positifs mais ça a aussi un aspect sur les projets en tant que tels sur les produits qu'on est capable de sortir ou pas ce que je vois par exemple c'est je veux tel produit, un peu foufou et en fait je dis mais c'est pas possible ça n'existe pas encore, et en fait quand on met la chose en place il y a aussi beaucoup des fois des frustrations sur ah mais on m'avait vendu quelque chose de complètement dingue, mais en fait je comprends pas que sans donner j'ai rien mais comment ça il y a des humains derrière comment ça il faut annoter des données, donc il y a aussi beaucoup des déconvenus qui font parfois que c'est un peu dommage parce qu'il y a des produits ou des projets qui ne sortent pas ou ne sortent pas comme il faudrait parce qu'on y a mis, trop de fantasmes et l'inverse est aussi vrai Des fois, on a tellement peur de l'IA que, par défaut, on n'en veut pas, alors qu'il y a aussi plein d'endroits où ça peut être utile. Pour révolutionner le monde, il y a des fois où c'est la bonne solution pour parvenir à ces moyens.
Bruno:
Ces sujets de complexité et d'appréhension, il y a, je ne sais pas si tu connais, XKCD, une BD américaine qui je trouve très sympa. Il a fait quelques, strips que je recommande régulièrement. Il y en a un que j'aime beaucoup, c'est justement sur cette perception de la complexité par le commun des mortels. Et tu vois une personne qui demande à un dev, qui dit je voudrais une app pour prendre en photo des oiseaux. Le gars dit, pas de problème, tu me laisses deux jours, il dit puis je voudrais que tu puisses enregistrer tous les oiseaux que j'ai vus, ouais très bien pas de soucis, ça ferait un jour de plus, et je veux que l'application reconnaisse l'oiseau quand je le prends en photo, ok il me faut une équipe de 5 personnes et le produit sera prêt dans deux ans, les gens ne maîtrisent pas en fait à quel moment, ça devient réellement complexe, parce qu'en fait on est sur des métiers qui sont je trouve hyper complexes, quand tu prends un smartphone, quand même le niveau d'ingénierie, de technicité et d'ingéniosité qu'il y a dedans pour beaucoup de gens c'est une boîte noire en fait, les gens ne maîtrise pas le... Et tu vois, je comprends qu'il y ait des peurs, je comprends qu'il y ait des fantasmes, effectivement, sur ça, mais est-ce que tu penses que... Et je le dis avec bienveillance, mais que... Est-ce qu'on n'est pas arrivé à un niveau de complexité, que ce soit sur les smartphones, sur l'IA, ou ce genre de choses, en fait, qui, du coup, qui n'est plus... Prenables ou adressables, je ne sais pas comment je trouve, je ne comprends pas le mot, mais est-ce que tout le monde est vraiment capable d'appréhender ces sujets de manière cultivée, raisonnée, instruite ?
Nastasia:
Je pense que ce n'est pas évident, et c'est super intéressant ce que tu dis, c'est qu'en fait, on a mis de plus en plus loin, finalement, cette partie qui est donc aujourd'hui l'apprentissage automatique, en tout cas c'est comme ça qu'aujourd'hui on fait de l'IA, même si c'est beaucoup plus ouvert. C'est-à-dire qu'au début, je me rappelle qu'on codait notre modèle nous-mêmes. Mais vraiment, on avait des formules mathématiques qu'on codait nous-mêmes. Donc c'était quand même bien hardcore, mais au moins, la boîte noire paraissait moins boîte noire. Puis forcément, tout doucement, les choses s'industrialisent, donc hop, on utilise tel modèle sur l'étagère, comme on dit, en open source, peu importe, mais on est encore capable de le comprendre, il y a encore des papiers dessus, on comprend encore comment ça marche. Et puis arrivent les LLM et alors là on n'utilise même plus des modèles en tant que tel on utilise des LLM et même s'il y a des papiers autour, il y en a pléthore, il y a moins le réflexe, en tout cas je vois moins le réflexe d'aller chercher derrière comment ça marche et je trouve que même pour les devs qui sont dans ce domaine là dont je fais partie ça nous met de plus en plus loin, la boîte qui nous paraît de plus en plus noire, et opaque donc oui il y a un déplacement je sais pas jusqu'où ça va aller mais qui fait que ça devient de plus en plus difficile de discuter et même dans le domaine, même dans le secteur je trouve.
Bruno:
Ouais J'ai juste envie de creuser un sujet parce que tu viens de dire qu'il y a une époque où on codait nous-mêmes nos modèles et tu sembles dire qu'aujourd'hui c'est un peu moins le cas, c'est-à-dire qu'aujourd'hui c'est quoi on met tous les transformeurs dans une boîte on secoue bien fort et on passe les données et après c'est marre, ou il y a quand même, un lien programmatique qui est tissé de manière manuelle, on va dire, entre chaque transformeur ?
Nastasia:
Il reste du code, mais il en reste de moins en moins, en tout cas sur la partie vraiment... IAPUR, j'ai envie de dire, à une époque où vraiment, moi j'ai connu un codé de A à Z, même si c'était beaucoup plus simple aussi. Aujourd'hui, coder un langage de modèle, on ne le fait plus, on va effectivement le chercher sur l'étagère. Mais grosso modo, ce que tu vas faire, c'est que tu vas prendre ton, si je m'intéresse au LLM, tu vas prendre ton LLM et tu vas dire, « Ah, ok, moi, c'est plutôt sur ces données que je vais apprendre. Je vais un petit peu te fine-tuner à la fin. » Il va y avoir ce genre d'éléments, donc on ne fait pas rien. Mais par contre, on perd la notion de comment ça a été fait. Derrière « Ah, ok, ça sert à prédire schématisant. » Mais le mot d'après, dans un contexte... Enfin, il y avait une époque... J'ai un peu l'impression de passer pour une vieille quand je dis ça. C'était mieux avant. Ce n'est pas forcément que c'était mieux avant. Mais où, en tout cas, autour de moi, on allait gratter dans les papiers de « Ah, t'as vu, ils ont sorti Camembert. » C'était un modèle qui permettait de faire du traitement du langage naturel. On s'interrogeait sur comment on arrivait au bout techniquement. Là où j'ai l'impression qu'aujourd'hui, c'est beaucoup moins le cas, on le prend sur l'étagère. On le paramètre, mais il est de plus en plus mis à distance et ça fait que du coup on dit de plus en plus on comprend pas, c'est une boîte noire. C'est vrai que de toute manière ça reste très complexe à comprendre, mais avant je pense que ça l'était moins.
Bruno:
Et ce qui est un parallèle aussi intéressant c'est que il y a dans le monde du dev, on voit beaucoup de gens qui ont tendance à dire que les plus jeunes aujourd'hui ne font que du copier-coller depuis un tchat GPT, un curseur ou autre et que du coup ils apprennent plus à faire et qu'ils perdent aussi du coup la maîtrise et la connaissance de ce qu'ils font c'est un peu ce que tu nous dis, c'est qu'aujourd'hui, même sur la création même des modèles il y a aussi une perte de compétences et de connaissances sur la création de modèles en elles-mêmes.
Nastasia:
Oui mais après je le critique pas forcément je pense que c'est l'évolution naturelle, j'ai jamais fait d'assembleur par exemple voilà et je pense que ça va être de plus en plus le cas et je pense que c'est normal mal. Mais du coup, ça met à distance quelque chose qui paraît de plus en plus magique. Ok.
Bruno:
Avant d'aller plus loin, donc effectivement toi, t'as eu cette... Confronté à l'ensemble de ces questions, de gens qui ont besoin de comprendre, qui fantasment, qui ont peur de ces sujets-là. Donc t'as décidé d'écrire un livre que je recommande chaudement qui s'appelle « L'IA du mythe à la réalité » qui est disponible sur Amazon.
Nastasia:
Il est disponible dans toutes les librairies.
Bruno:
Dans toutes les librairies. Et donc l'idée, c'est effectivement de creuser un peu les différents points que tu évoques sur ce livre. Donc on a déjà évoqué ce côté un peu vulgarisation. Déjà, il y a un truc que je note dans les quelques minutes depuis lesquelles on parle, c'est que tu as assez peu évoqué le terme IA, tu as parlé d'apprentissage automatique, tu as assez peu parlé d'intelligence. Est-ce que pour toi, on est très loin de la notion d'intelligence en fait aujourd'hui ?
Nastasia:
Je trouve ça compliqué à définir. Il y a des personnes, en fait, il faut le savoir, qui vont dire que l'intelligence artificielle n'existe pas. Et des personnes, quelqu'un de très célèbre, le créateur de Siri, donc j'ai oublié le nom.
Bruno:
Il y en a qu'un ? Non, Luc Julia.
Nastasia:
Oui, exactement, merci. Donc, ça veut dire qu'il y a quand même des gens qui disent non, mais en fait, il faut abandonner le terme d'intelligence artificielle. Pourquoi pas ? Il y en a qui disent aussi qu'il faudrait que l'intelligence artificielle soit avec un S, parce qu'en fait, il y en a plusieurs. Parce que même dans l'apprentissage automatique, il y a des milliards de manières de faire de l'apprentissage automatique. Et puis, moi, je pense que je suis un peu... Je suis peut-être un peu scolaire, mais en fait, le terme est créé en 1956. Et c'est ce qu'ils font de la discipline en tant que science officielle, même si le fantasme... Ce n'est pas la première fois qu'on essaye de créer des êtres artificiels. On a essayé avant 1956 mais en tout cas en 1956 le terme est créé et ça fonde la discipline donc c'est pour ça que je pense que j'y reste attachée, mais par contre il y a à prendre avec plein de pincettes parce que, il vient avec une grosse métaphore qui est qu'on va reproduire l'intelligence, alors qu'on sait même pas réellement ce qu'est l'intelligence et que c'est très très compliqué à définir c'est pour ça et c'était déjà le cas dans la définition de 1956 qu'on se dit en réalité ce qu'il faut ce serait peut-être juste imiter, si on a l'impression que c'est intelligent ben ça marche, Voilà.
Bruno:
Il y avait, j'ai reçu, il y a un petit moment maintenant déjà, Laurent Hache qui était à l'époque le CTO de Quant, et il m'avait dit une phrase sur l'épisode que j'ai trouvé top et que j'ai gardé, c'était que dans l'LM, l'intelligence elle est à l'entrée et à la sortie. En fait, ce qu'il veut dire par là, c'est qu'il y a toutes les données d'entraînement. Si t'as des données intelligentes, t'auras un système efficace. Et quand il dit que l'intelligence elle est à la sortie, c'est en fait, c'est notre compréhension de la réponse du LLM. Que l'LM en soi... On s'est centré sur l'LM parce que c'est le gros sujet d'IA du moment. Mais qu'en fait, le LLM il n'a pas de compréhension du sujet. C'est juste un modèle statistique. Il te sort un truc et c'est toi en tant qu'être humain qui as une capacité de compréhension du truc. Et dans ton livre il y a un point effectivement que tu évoques aussi souvent, c'est que les outils actuels, on est obligé de mettre ce actuel parce qu'on ne sait pas où est-ce qu'on sera dans un an, mais dans les outils actuels il y a une qualité de production qui est, indéniable mais toujours sous l'impulsion d'un être humain qui dit fais ci, fais ça, va dans ta direction creus ça, il n'y a pas une appréhension une compréhension du monde en fait d'ailleurs tout ça oui.
Nastasia:
C'est là quand j'ai commencé on me disait oui tu vas voir Yav va nous surpasser, Mais au sens vraiment de contrôle Et je me disais mais, Mais d'où ça vient ? D'où ça vient ? D'où une IAP peut apprendre ? Et concrètement, aujourd'hui, c'est les données. Et pour l'instant, on n'arrive pas bien à sortir de ce schéma. Donc ces données-là, elles sont produites par qui ? Elles sont produites par des humains. Et on me dit des fois, oui, mais quand même, il y a un passage de l'IA pour, par exemple, générer plusieurs images. Oui, c'est vrai, mais l'image de base, elle vient toujours d'un humain. Et ça aussi je ne suis pas sûre que ce soit très connu, mais en fait il y a beaucoup, beaucoup d'humains c'est assez difficile à quantifier mais qui annotent les données qui les modèrent, qui les trient etc et même nous on le fait même nous, parce qu'aujourd'hui on a plein de générateurs de code mais en fait merci à l'ensemble des développeurs et développeuses d'avoir posté leur code sur de l'open source par exemple sur des, logiciels open source parce que c'est aussi là que les IA ont appris donc en fait on est tous producteurs de ces données, et les IA moi je trouve que c'est des technologies fascinantes qui permettent de faire plein de choses mais elles ne sont pas magiques, en tout cas l'intelligence c'est hyper intéressant effectivement le retour que tu fais, il vient en grande partie de ce qu'on lui.
Bruno:
Donne à manger et c'est nous il y a le fameux projet Recapcha aussi qui est un gros travail d'annotation qu'on a tous fait gratuitement Et qu'on continue à faire.
Nastasia:
Exactement.
Bruno:
Sur ces sujets d'annotation, Je suis en train de réfléchir à ce que, bon, si, allez, on s'en est dedans. Pour moi, dans le sujet d'annotation, il y a aussi un gros sujet de, pour dire les choses crûment, de prédation sociale qui est faite, parce qu'on voit quand même des entreprises, pas toutes, il y en a qui font ça très bien, c'est pas le sujet, mais il y a des entreprises qui font de l'annotation via, enfin, qui embauchent des gens dans des pays en voie de développement ou avec énormément de pauvreté, et qui profitent du faible coût que ces gens se retrouvent obligés d'accepter. Pour produire ce travail-là, et donc ils se retrouvent à annoter des millions et des millions d'informations chaque jour. Est-ce qu'on en parle suffisamment de ça ? Est-ce qu'on a l'IA qui est posé sur un truc, crade, un peu caché, ou est-ce que ça reste encore une minorité ? C'est quoi ta vision de ces sujets-là ?
Nastasia:
Pour moi, c'est pas assez visible. Très clairement, parce que rien que dans mon parcours, des annotateurs, j'en ai rencontré plusieurs. Alors pas forcément dans les pays en voie de développement même si c'est là où on les trouve le plus. Et j'ai envie de dire, des annotateurs peu respectés. J'en ai rencontré plusieurs, même si t'as raison. Il y a aussi des entreprises qui font très bien le travail, qui embauchent ce qu'ils appellent des experts et là c'est clair, tout va bien. Mais je pense qu'il y a aussi une espèce de l'intelligence artificielle dire qu'elle répond sur autant d'humains. Je pense qu'il y a un petit côté où le marketing ça s'effondre un peu. C'est dommage. Et je pense qu'effectivement à mon humble avis on n'en parle pas assez. Si je peux citer un exemple, il y a un petit peu tout un jeu de paraître dans le domaine, et je pense que l'exemple le plus flagrant, je pense que c'est Amazon Mechanical Turk. Donc Amazon Mechanical Turk, ça veut dire le turc mécanique d'Amazon. Et en fait, c'est une plateforme sur laquelle on va annoter des données, voilà, contre des petites récompenses. Et en fait, ce site, donc ce nom-là, fait référence à un automate avec lequel on jouait aux échecs. Et l'idée, c'était de nous faire croire que l'automate joue aux échecs tout seul. Et en fait, dessous, il y avait un humain. Il y avait un humain qui déplaçait les pièces. Donc, en fait, reprendre cette comparaison, je pense qu'il y a des acteurs qui sont très au courant. Mais mine de rien, qui sont aussi très au courant, qui a tout un subterfuge, pour me dire que l'intelligence artificielle est très artificielle. Et sans vouloir dénigrer cette technologie, je pense qu'encore une fois, il y a plein de choses à en tirer. Mais pourquoi ne pas dire la vérité en fait et l'utiliser là où il faut plutôt que de faire des grands shows pour dire que c'est trop génial, l'insingularité, tout ça.
Bruno:
Il y a plein de choses que tu as évoquées qu'on sera amené et j'espère qu'on aura le temps de creuser. Le premier, c'est effectivement que tu parles de ces humains qui sont derrière l'IA. Il y a un vrai questionnement que j'ai en ce moment. On parle souvent des révolutions de la destruction créatrice. Tu as des révolutions qui vont détruire des jobs mais en créer d'autres à côté. On a l'exemple de l'arrivée de l'automobile. Il y a des nombres qui existent. Mais il y a un vrai questionnement sur est-ce que l'IA va être aussi sur sa destruction créatrice ? Tout le monde ne pourra pas devenir data scientist. Toi, dans ce paysage d'êtres humains qui permettent le fonctionnement des IA, tu vois, toi, une capacité à englober, on va dire, pour grossir le trait, l'ensemble de la population qui pourrait travailler dans la création d'IA d'une manière ou d'une autre ?
Nastasia:
On me pose souvent la question, quel métier ? C'est toujours difficile, je préfère mettre des guillemets, c'est le futur, c'est difficile d'en parler. Effectivement, il y a tous ceux qui créent les IA dont on parle, effectivement, data scientist, data ingénieur. Je vois aussi, puisqu'il y a de plus en plus de régulations sur l'IA, j'ai aussi un peu l'impression qu'il y a quelque chose à jouer ici, sur quelques métiers qui seraient autour de comment, en entreprise, faire respecter les IA Act qui arrivent, ou les régulations sur l'IA d'une manière générale. Après j'ai du mal à voir de vraies créations de métiers purs que ferait Elia à part celui d'un notateur expert, mais bon après je veux bien me laisser surprendre c'est pas évident de voir ce qu'il advient.
Bruno:
Donc pour toi il y a quand même un potentiel des métiers qui disparaissent et donc toute une catégorie de personnes qui se retrouvent à ne plus pouvoir travailler l'exemple le plus proche de nous qu'on a en ce moment c'est les doubleurs de films, qui voient qu'avec l'IA on peut reprendre la voix de Brad Pitt modifier sa bouche et en fait il parle français d'un coup avec la voix de Brad Pitt, et on n'a plus besoin d'aucune personne pour faire ça, pour toi il y a comme ça des métiers qui vont réellement disparaître et des personnes qui en soi ne pourront pas forcément retrouver, un taf plus ou moins équivalent.
Nastasia:
Alors en fait j'ai pas l'impression qu'il y ait des métiers qui vont être en place et des métiers purs et durs j'ai l'impression que nom. Parce qu'à chaque fois qu'on gratte, on se dit « Ah ouais, mais pour ce film, un vrai doubleur, ce serait bien quand même pour avoir un vrai jeu, etc. » Pareil pour la traduction. La traduction... C'est la vérité, il y a des traducteurs, des traductrices qui raccrochent du fait de l'IA, c'est une réalité. Pour autant, traduire un roman aujourd'hui avec IA, on se dit non, personne n'a envie de lire ça. Donc, je n'ai pas l'impression qu'il y a un métier en tant que tel qui réellement va disparaître. Par contre, des tâches, oui. Et le fait qu'il y ait du coup moins de personnes qui soient nécessaires pour le métier, c'est une réalité aussi aujourd'hui, en tout cas, sur au moins deux métiers que je vois, qui sont la traduction et l'illustration. Il y a des déplacements. Mais où vont ces personnes ? Je n'ai pas l'impression qu'il y a une grosse ouverture que nous fait l'IA. En tout cas, encore une fois, sur les métiers officiels. Parce que si l'annotation devait un métier officiel, ce serait une belle création d'emploi.
Bruno:
Donc au final, si je résume le propos, toi tu es très adepte de la phrase de Samatman qui disait l'IA ne va pas vous remplacer mais quelqu'un qui utilise l'IA va vous remplacer.
Nastasia:
C'est intéressant. Possible. En fait, je pense qu'il y a quand même des choses où on va y passer moins de temps. Mais en fait, c'est déjà le cas. En réalité, c'est déjà le cas sur certaines choses. Par exemple, l'exemple que j'aime bien prendre, parce que je pense que c'est quelque chose dont je suis assez fan, c'est tout ce qui est filtre, gomme magique de nos petits téléphones. En fait, avant, pour retoucher une photo, soit on allait voir un photographe professionnel. Donc je pense qu'il y a une part où on y va moins et puis il y a une part aussi où juste ça a décuplé le fait qu'on le fait alors qu'avant juste on disait ah non j'ai pas les thunes je le fais pas donc oui il y a des déplacements, est-ce que c'est vers la personne qui utilise l'IA oui sans doute et où vont ces personnes ben ça dépend les parcours.
Bruno:
Sont différents tu parles du coup de ce déplacement tu parles d'exemple des photos, il y a aussi des risques de dérive mine de rien aujourd'hui il y a certains outils qui sont devenus tellement faciles à utiliser si on prend cet exemple des photos tu peux très facilement créer, une photo avec un nouvel appareil Google, et la truquer et ça devient quand même très difficile d'identifier qu'il y a eu une altération et que donc il y a potentiellement une fausse information qui peut être diffusée et créée donc il y a aussi des risques de dérive avec tout ça Oui.
Nastasia:
Oui totalement il y a un enjeu, je sais plus dans quel pays il y a eu des élections et ils ont une période comme nous électorale où on n'a pas le droit de parler et il y a eu ce qu'on appelle un deepfake une photo qui était fausse et qui mettait en mauvaise situation je me rends compte que c'est flou mes souvenirs sont flous, en mauvaise situation l'un des deux candidats et l'autre a gagné alors comme on dit on ne saura jamais l'impact que ça a eu, mais oui ça peut avoir, ça peut être un danger en fait aujourd'hui les photos on arrive quand même à savoir d'où elles viennent, mais il est vrai que des fois il faut aller étudier les pixels et on n'a pas toujours le temps d'étudier les pixels Et les journalistes n'ont pas toujours le droit, en fait, justement, dans cette période électorale où on n'a pas le droit de parler et de dire « Ah non, ça c'est un faux ». Donc oui, il peut y avoir des dangers. Par contre, j'ai aussi l'impression qu'on devient meilleur à repérer ces photos ou ces images faites par IA.
Bruno:
Il y a quand même tu peux trouver facilement des résultats sur internet des trucs qui sont quand même assez.
Nastasia:
Impressionnants je pense que c'est la course en fait c'est un peu la course de ah mais ça j'ai compris à chaque fois que c'est comme ça c'est fait par une IA, ah bah d'accord ok très bien on va.
Bruno:
L'améliorer est-ce que tu crois que la régulation on peut parler de l'AI Act qui est sortie ou qui va sortir je sais plus exactement qui est en train de se préparer, et d'autres régulations éventuelles Est-ce que pour toi, la régulation est une nécessité, une réponse possible ? Tu le perçois comment ?
Nastasia:
Moi, je le perçois plutôt positivement. Je le vois un peu comme l'archépedé, l'IS2. Je sais qu'il y a des personnes qui disent « Oui, mais on ne pourra plus totalement innover, ça va nous freiner. » Oui, mais je pense qu'il y a des cas où c'est vrai. Je pense qu'il y a beaucoup de cas où on fait juste de l'IA pour être à la mode. Et bon, ça ne me paraît pas si grave. Et puis par exemple dans les AI Act il y a un gros côté explicabilité qui permet de dire, ça permet moins de se cacher derrière c'est une boîte noire j'y comprends rien, même si ça reste vrai, c'est des formules très complexes malgré tout j'ai parfois un peu l'impression qu'il y en a qui s'en servent pour dire c'est pas ma faute, alors que derrière les AI Act il y a quand même un côté maintenant vous allez expliquer ce qu'est votre IA, sur quoi elle se base etc dans une certaine mesure bien entendu mais du coup ça oblige un peu à remettre déjà du concret dedans et à, pas juste se cacher derrière c'est trop compliqué, jamais on comprendra il faut que vous l'acceptiez.
Bruno:
Ouais donc on revient à cette approche de boîte noire est-ce que tu vois sur cette, Est-ce que tu as l'impression d'être sur une mission de... Tu vois, je ne dis pas que tu es en train de porter un drapeau et autres, mais c'est quoi pour toi l'importance ou la nécessité d'expliquer à tout le monde, comment fonctionnent réellement ces systèmes-là ou ces mécaniques-là ?
Nastasia:
Pour moi, il y en a plein à plusieurs niveaux. Si je me passe d'un point de vue vraiment... On est des devs projets, c'est peut-être d'avoir des projets efficaces. Quand je l'entends efficace, bien sûr, on ne sait jamais. On est dans un métier d'innovation, par définition. Donc, des fois, on lance des trucs et puis ça capote, c'était n'importe quoi. Je pense que c'est inhérent au métier. Mais bon, je trouve qu'il y a beaucoup de modes et de hype sur l'IA qui ne sont pas toujours nécessaires. Et que si on se dit, ah, mais en fait, c'est des statistiques très poussées. Et bien, on se dit, ah, OK, très bien. Je vais l'utiliser dans tel ou tel contexte et je l'approche de manière plus sereine. Et si je me place d'un point de vue plus social je pense que ça permet d'apaiser les discours et effectivement on sait pas jusqu'où va l'élia, mais par contre dire ah il va y avoir une intelligence supérieure sur la base de rien ça me paraît pas sérieux et du coup quand on se rend compte de ce que c'est on se dit bah non en fait ça va c'est quand même puissant mais ça va et ça permet d'apaiser le débat et aussi d'éviter, les tensions qui peuvent aussi sur venir sur les annotateurs, j'y reviens, ou alors ce qu'on appelle la. Foxtomatisation, c'est le fait de dire « on va vous remplacer », Il va y avoir de l'automatisation. Donc, en fait, votre métier, il n'est pas très important. Il n'est pas très intéressant. Et pourquoi est-ce que je le rémunérerais beaucoup ? Pourquoi est-ce que je le considérerais ? Mais en fait, vous n'êtes jamais remplacé. Et c'est un peu le... En attendant les robots, on met une pression sur certaines catégories d'employés, dont nous, les devs, dans une certaine mesure. Alors qu'en fait l'automatisation elle n'arrive pas en fait donc ça permettra aussi d'apaiser le débat et de dire bon il y a des outils c'est cool effectivement ça va plus vite mais on ne va pas tous nous mettre à la porte.
Bruno:
Tu l'écris comment ce terme ?
Nastasia:
Faux automatisation, c'est comme faux automatisation.
Bruno:
Ok, d'accord.
Nastasia:
Et il faudrait que je retrouve la spécialiste de domaine.
Bruno:
Ok, c'est super intéressant. Moi j'ai entendu parler de certaines boîtes qui annoncent plus ou moins ouvertement, qu'elles ne vont pas remplacer des personnes qui partent parce qu'elles partent du principe qu'avec les IA, il va y avoir un gain de productivité qui va permettre de ne pas avoir besoin de remplacer les personnes qui partent. Je te rejoins sur le fait que je pense pas que l'IA va révolutionner à ce point là le monde du travail, ça va être un nouvel outil qu'il va falloir appréhender, ça c'est un vrai sujet dont on parlera après, mais je pense qu'on est encore très loin du grand remplacement pour reprendre le terme de certains, qui je pense effectivement n'arrivera jamais je me permets juste une petite parothèse pour revenir tout à l'heure, tu me donnais un exemple d'une élection politique avec un contenu qui a été partagé, j'ai retrouvé l'information et le sujet est encore plus... Je suis encore plus choqué maintenant que j'ai l'info. Parce qu'on parle d'Erdogan, le président turc, qui, avant la fin de l'élection, a diffusé lui-même une vidéo de son concurrent en mauvaise posture. Donc on est effectivement sur de la manipulation politique de haut vol quand c'est un des candidats qui était déjà en place. Qui soulève certaines critiques comme dirigeant à travers l'Europe. Donc c'est effectivement assez fou donc voilà c'était juste pour donner effectivement l'exemple concret mais du coup je reviens sur le sujet des régulations le AI Act aujourd'hui c'est juste à l'échelle de l'Europe, on voit du coup certains acteurs qui disent puisque c'est comme ça on diffuse pas nos solutions en Europe et puis c'est réglé donc tu vois est-ce que ça protège vraiment.
Nastasia:
Tu penses à quelle solution pour le coup.
Bruno:
Alors il y a, le seul exemple que j'ai en tête mais qui est plus différé qu'autre chose c'est Apple Intelligence ils ont annoncé qu'ils ne sortiraient pas avant avril en Europe, notamment à cause de l'AI Act, il n'y avait pas il n'y a pas genre un produit de Facebook ou de Meta qui a été exclue de l'Europe il y a quand même des entreprises qui commencent à dire, en fait on peut pas se conformer à ça donc on évite le marché européen.
Nastasia:
Est-ce que ça a été le cas pour la RGPD ? J'ai pas l'impression finalement, j'ai l'impression que tout le monde se plus ou moins plier, et peut-être que je suis naïve mais je me dis que c'est ce qui va se passer RGPD.
Bruno:
Alors ça a permis l'émergence de toutes ces boîtes qui te vendent les bannières de cookies et quelques solutions de compliance, je pense que en Europe les boîtes commencent à être quand même, très complainant parce qu'ils ont vu les premières amendes et ça fait mal je pense que dans le reste du monde ils mettent la bannière mais ils respectent pas forcément l'application telle quelle parce qu'ils sont quand même un peu protégés par le fait qu'ils sont pas en Europe c'est un peu le risque, Enfin voilà, ce sujet de la régulation, il est toujours complexe parce que nous, en Europe, on est vu comme ceux qui régulent beaucoup. Et je trouve que ça a beaucoup d'avantages. Mais l'inconvénient, c'est que c'est très limité à notre secteur géographique.
Nastasia:
C'est vrai. Et en plus, là, en ce moment, si on parle des élections américaines, on sait très bien que ça ne va pas aller dans le sens de la régulation. Donc, on a perdu un potentiel allié. Très clairement.
Bruno:
Clairement. il y a un autre sujet que je voulais évoquer que j'ai trouvé super intéressant dans ton livre c'est sur la notion de neurones, j'ai cru naïvement que les réseaux de neurones il y avait effectivement cette approche très similaire à la construction d'un cerveau et peut-être même presque similaire à la façon dont la mémoire est construite, dans l'approche d'un cerveau et toi tout ce que tu nous expliques dans le livre c'est qu'en fait le terme de neurones ces réseaux de neurones est de moins en moins adoptée, parce qu'en fait, on est très loin de ce qu'est réellement en neurones.
Nastasia:
Oui, c'est ça. Encore une fois, ce n'est pas mon domaine. Je ne suis pas dans la médecine ou dans la biologie. Mais effectivement, en fait, c'est une métaphore. Encore une. Et le problème, c'est qu'elle prête vachement à confusion. Parce qu'effectivement, c'est vrai, l'idée, c'est de dire, ah, les réseaux de neurones, ils sont tous tissés les uns les autres. Il y a une fonction d'activation et on reproduit ce phénomène-là. Très bien. Mais en fait, ça s'arrête là. Alors qu'aujourd'hui, les réseaux de neurones, enfin, ceux dans nos vrais cerveaux, je veux dire, on n'est même pas sûr exactement comment ils fonctionnent. Donc oui, en fait, à la fois, les métaphores, c'est simple. Ça permet de savoir où on va et de dire ce qu'on veut. C'est-à-dire, les réseaux de neurones essayent d'imiter l'intelligence en reprenant un peu le système. Ouais c'est vrai, mais c'est quand même très limité à un moment donné je mets deux schémas pour dire en fait ça c'est un vrai neurone ça c'est ce qu'on appelle un réseau de neurones en informatique.
Bruno:
Ah oui c'est quand même très différent, alors comment tu fais pour faire un travail de vulgarisation tout en essayant de casser des métaphores qui ont l'avantage d'être plus facilement préhensibles, par tout le monde C'est pas facile.
Nastasia:
Je me rends compte que même moi j'en utilise beaucoup. Des fois je dis « Ouais, l'IA elle pense que... » Je dis « Mais non, non, non, l'IA elle pense rien du tout. » On se calme. C'est pas facile. C'est vraiment pas évident de tomber là-dedans. Et au fond, moi je trouve ça plutôt cool les métaphores en soi. C'est juste que là elles apportent beaucoup trop de charges émotionnelles avec elles. J'ose espérer que peut-être dans quelques années il y en aura moins. Parce que l'IA a quand même eu des fois des hivers, des étés, donc on verra. Et peut-être qu'à ce moment-là, les métaphores nous paraîtront plus acceptables et on les utilisera peut-être davantage.
Bruno:
Et est-ce que cette peur, effectivement, ou ces fantasmes que certains ont, comme tu le dis, là on est dans une période d'été de l'IA, on va attaquer très forcément, très forcément, on va attaquer forcément à un moment un hiver des IA. Est-ce qu'il ne faut pas juste attendre que les gens vivent suffisamment de désillusions pour dire, tu vois comme avec la voiture autonome moi j'ai déjà raconté à ce podcast mais il y a quelques années j'ai fait un pari absurde avec des amis, sur la disponibilité de la voiture autonome sur toutes les routes de France et de Navarre bon bah j'ai perdu le pari ça devrait me coûter cher mais j'ai réussi à reporter l'échéance du paiement, mais tu vois il y a un moment où tu fais, ouais en fait la voiture autonome elle fonctionne très bien en Californie où c'est tout le temps le même climat c'est hyper constant, hyper régulier, mais dès que tu vas dans des pays où tu passes de la neige à des grands soleils les voitures elles sont paumées il y a une espèce de la confrontation à la réalité et t'en parles aussi un petit peu dans ton livre tu te promènes avec un pano stop, dans la rue, tu arrêtes toutes les voitures autonomes ce qui est ridicule alors qu'un être humain a une capacité de se dire je vois bien que c'est Anastasia avec son bouquin qui se bat avec un pano stop j'ai pas besoin de m'arrêter, est-ce qu'on a besoin de vulgariser ou faut pas juste attendre que les gens voient qu'en fait la réalité elle est très loin du fantasme peut-être.
Nastasia:
Peut-être. C'est vrai que des fois, je me dis, bon, je me rends compte que j'ai donné pas mal de conférences sur le sujet, j'ai quand même écrit un livre. Oui, effectivement, peut-être. C'est un petit peu comme le méta, le métaverse. Le métaverse, je pense que dans le dev, on était quand même beaucoup à être sceptiques, mais à se dire, bon, on va voir. Parce qu'après tout, moi, je suis OK pour me laisser surprendre, il n'y a pas de problème. les métaverses, on se disait, bon, pourquoi, pourquoi pas, mais bon, ça a l'air d'être la réalité virtuelle sous un autre nom. Et pourtant, il y avait des fantasmes de fou dans la société. Et c'est vrai que finalement, ça s'est calmé de soi-même. Et sans doute que ça renaîtra parce que voilà, c'est un sujet qui est très porteur aussi. Peut-être.
Bruno:
On l'a vu aussi avec la blockchain.
Nastasia:
C'est vrai.
Bruno:
Qui a aussi été comme étant le nouvel âge de l'économie. et puis en fait non.
Nastasia:
Oui, c'est ça. Et puis des fois, il y a des vrais percés, effectivement.
Bruno:
Alors justement, quand on parle de percés, j'ai eu quelques invités ici qui effectivement nous ont expliqué un peu le fonctionnement statistique des LLM, qui sont la grosse hype du moment. Et notamment un invité, je ne me souviens plus lequel malheureusement, donc je ne peux pas le créditer, qui expliquait qu'en fait on va assez vite arriver à un plafond sur l'LLM. Et on le voit déjà un petit peu aujourd'hui avec les nouvelles versions de GPT et autres qui au final ne sont pas aussi drastiquement meilleures que la version d'avant par rapport aux progressions. Et qui expliquait que avant d'arriver à une IA généraliste oui c'est ça généraliste, il faudra qu'on invente un autre mécanisme que les réseaux de neurones comme il n'y a pas de compréhension il faudra forcément qu'on trouve autre chose, est-ce que toi dans ta recherche de prospective d'essayer d'expliquer un peu ces sujets là déjà est-ce que tu partages au point de vue ou est-ce que pour toi les LLM sont, le nouvel Eldorado que ça va nous amener jusqu'au bout est-ce que pour toi cette notion de singularité elle est même possible tout court et est-ce que tu crois qu'effectivement il y en a peut-être à un moment une innovation qui va, alors je ne te demanderai pas de choisir laquelle si jamais tu penses que c'est ça mais est-ce que tu penses qu'à un moment on arrivera quand même à, passer le plafond de verre des LLM.
Nastasia:
Alors il y a plein de choses alors déjà les LLM en fait c'est assez intéressant parce que nous dans la data ça fait un moment qu'on les connait en fait. Sauf qu'ils n'avaient pas d'interface. On envoyait des requêtes sur des API et on obtenait des résultats. Et on était déjà fascinés. On était en mode waouh, GPT, c'est les modèles qui sont derrière chat-chat-BT. Moi, je me rappelle les avoir testés avant qu'il y ait chat-GPT et on était en mode, ah ouais, balèze, mais en fait, c'est relativement vieux. Et en fait, ce qui a fait aussi la percée, et là, pour le coup, merci les développeurs back-end, les développeurs front-end, toutes ces personnes-là autour c'est aussi ça, parce que ça a été accessible au public, donc il y a toute cette interface qui fait que les L&M ont eu aussi leur percée ensuite où est-ce qu'on en est ? Alors, effectivement, moi, par exemple, je ne suis pas dans la biologie, donc est-ce qu'on va réussir à créer des êtres artificiels davantage avec la biologie ? Ça, par exemple, je ne peux pas répondre. Mais par contre, j'ai effectivement l'impression que là où on en est, j'ose espérer qu'il y aura de nouvelles choses. Mais oui j'ai l'impression qu'on arrive effectivement je sais pas si c'est plafond le terme mais qu'en tout cas, l'idée de la singularité à partir de tchat GPT ça me paraît pas sérieux le gap me paraît beaucoup trop important en fait c'est ça, je peux pas dire quelles vont être les étapes au milieu si on va y arriver mais ça me paraît très important, après j'invite à discuter avec d'autres personnes sur le sujet parce que voilà, forcément c'est mon avis et ça reste un avis même s'il est renseigné sur le sujet.
Bruno:
Est-ce que pour toi la singularité c'est une possibilité ?
Nastasia:
Non, la vérité, quand tu m'en vas comme ça, non. J'ai vraiment l'impression que non, parce qu'en fait j'ai l'impression que ça fait très longtemps qu'on essaye. Et quand je dis très longtemps, c'est avant 1956, c'est depuis toujours. Depuis toujours, on se la joue à la prométhée, on se dit je vais créer un être artificiel. Bon, encore une fois, il ne faut pas... Enfin, voilà, il y a des clones, il y a plein de choses. Donc, finalement, on pourrait dire qu'on est quand même, en réalité, arrivés. Mais par la voie de l'informatique, j'ai vraiment dû m'en y croire. Parce qu'on oublie que l'IA, c'est de l'informatique, en tout cas aujourd'hui. Et par la voie de l'informatique, sincèrement, quand on voit comment c'est fait, aussi fascinant que ça puisse paraître, c'est quand même un ensemble limité.
Bruno:
Ouais. Alors, ça, c'est un point intéressant que tu as borne dans ton livre. C'est que tu précises ce côté-là informatique de l'IA. Tu rappelles que Frankenstein, c'était aussi une forme de création d'être... Alors, c'est une œuvre de fiction, on est d'accord, mais... Alors, du coup, quand tu précises ce côté-là, qu'on essaye de créer aujourd'hui un être virtuel, au travers de l'informatique, mais que c'est que au niveau de l'informatique, est-ce que tu as déjà connaissance de projets en dehors de l'informatique et essayes de créer des êtres virtuels ?
Nastasia:
Alors actuellement, je ne sais pas. Par exemple, Frankenstein, souvent je le cite parce que nous, on lit ça en se disant n'importe quoi. Sauf qu'en fait, à l'époque, et c'est ça qui est rigolo, on pensait vraiment qu'on allait réveiller les morts ou créer des êtres avec de l'électricité. Parce que c'était l'invention du moment. Et en fait, c'est un peu... Quand on lit Frankenstein, il faut lire comme on lirait aujourd'hui une fiction sur l'IA qui part des connaissances de maintenant. Le parallèle est un peu le même. C'est pour ça que souvent je le cite. Je sais qu'il y avait des personnes qui essaient de travailler davantage sur les émotions, les hormones, etc. Mais après, j'en ai plus entendu parler. Et j'ai l'impression qu'aujourd'hui, on met beaucoup nos billes dans l'informatique.
Bruno:
C'est intéressant cette mise en abîme que tu fais parce qu'en fait ça me fait penser, au film Ready Player One qui est inspiré d'un livre bien évidemment mais qui a beaucoup marché à l'époque du métaverse où il y avait ce fantasme de on va plus vivre dans la réalité, et c'est vrai qu'aujourd'hui on ne parle plus du métaverse et on ne parle plus du tout oui d'accord je vois donc pour toi aujourd'hui on parle beaucoup d'informatique et d'IA parce que c'est le sujet du moment mais potentiellement dans 10 ans, dans 20 ans on sera complètement passé à autre chose.
Nastasia:
Peut-être qu'on sera revenu à la réalité virtuelle.
Bruno:
On sait pas.
Nastasia:
Qui en plus, parce que j'ai l'impression d'être hyper négative mais il faut quand même bien rappeler que, voilà, il y a la partie de fantasmes mais il y a la partie de la technologie qui existe pour de vrai que ce soit la réalité virtuelle ou il y a qui apporte plein de choses et moi ce que j'aimerais bien réussir c'est réussir à dégrossir un peu tous ces fantasmes pour qu'on se reconcentre qu'on se dise, ah mais en fait ça peut être cool mais pas du tout là où je l'avais imaginé par exemple.
Bruno:
Je vois que leur tour il y a un dernier sujet que j'aimerais évoquer je comprends dans tes propos je pense qu'on est à peu près aligné sur, le changement important dans les sociétés que l'IA va apporter, dans le monde du travail sur notre capacité à faire plus de choses différemment, on n'est pas en train de créer un ordre nouveau où demain on sera les piles des IA donc ça là dessus je suis effectivement assez aligné, Il y a un point que tu évoques dans ton bouquin que j'ai beaucoup aimé où tu évoques l'illettrisme, l'électronisme et tu parles aussi de toutes ces populations qui sont invisibilisées, par les IA ce qui recoupe par exemple avec les sujets de l'importance des données d'entraînement et ce genre de choses, et en fait aussi de manière un peu plus globale, c'est aussi tous ces sujets d'accessibilité, est-ce que ça commence à être adressé un peu par tous ces créateurs d'IA ou t'as l'impression que c'est encore complètement oublié ?
Nastasia:
Si, c'est quand même adressé. En fait, ça dépend. L'électronisme, du coup, c'est ce qu'on appelle l'électronisme numérique. Il y en a plusieurs, donc c'est compliqué. Il y a le fait d'accéder au matériel, il y a le fait de savoir s'en servir et il y a le fait de savoir s'informer sur les outils numériques. C'est très compliqué. Je pense que c'est plus adhérer à adresser par les mairies, les bibliothèques, les choses comme ça pour apprendre aux gens à se servir des outils informatiques. Par contre, il y a aussi toute la partie, effectivement, discrimination. Quand je dis discrimination, en fait, c'est au sens premier du terme. C'est-à-dire, je ne te prends pas en compte dans mon algo, je ne fais pas attention à toi, entre guillemets. Ce n'est pas forcément fait, comment dire, avec mauvaise intentions. Donc oui, une partie est traitée. Par exemple, les musulmans sur Tchad-GPT, il y a une époque c'était la catastrophe, de demander quoi que ce soit, c'était vraiment la catastrophe. Et en fait, ça se comprend malheureusement parce que les données d'entraînement, associent trop souvent musulmans et terrorisme. Ils ont fait un énorme travail pour que ça donne des réponses acceptables. Mais le travail est quand même très long. Il faut aussi vraiment aller détricoter un petit peu tout un tas de préjugés qu'on a aujourd'hui. Et puis, il y a aussi... Je me suis perdue. Ah oui. Le fait qu'on ne se rend pas compte, mais il y a même des populations qui sont complètement zappées. Dans le sens où les LLM, ils marchent très bien en anglais, ils marchent très bien en français. C'est parce qu'on est des populations dominantes où il y a beaucoup de Français aussi dans le monde et on est des pays économiquement riches qui ont les moyens de mettre ça en place. Il y a des langues, il y a je sais pas combien de langues dans le monde, je crois qu'on en dénote 500 mais il y en a qui sont, oubliées totalement et qui en fait non seulement sont pas forcément représentées dans ces modèles là mais en fait n'y ont même pas accès quoi, donc c'est compliqué c'est compliqué, c'était déjà le cas avec l'informatique en fait j'ai envie de dire, rien de nouveau sous le soleil finalement mais c'est juste que si on imagine que l'IA doit contrôler le monde il faudrait prendre en compte ces choses-là pour qu'elles le fassent réellement Alors attends.
Bruno:
On a un commentaire sur le live qui nous dit la maîtrise de l'IA, si tu dis que c'est comme Frankenstein Chad EPT dit que, attends, non je crois que la personne va réécrire son message c'était pas très clair je reviens sur ces sujets d'illettrisme et d'invisibilisation, sur peut-être un truc qui est plus proche de nous, population de développeurs et de développeuses j'ai vu passer une stat qui montre que en se basant sur les données d'entraînement ChatGPT est bien meilleur en React qu'en Assembler, Et que donc, même dans son aide aux développeurs, il y a des technos qui vont disparaître juste parce que l'IA est moins performante dedans. Et en fait, c'est vrai que c'est ce que tu évoques. C'est ce côté quand une discrimination est extrêmement locale, c'est dommageable, mais ça a une faible ampleur. Mais quand tu prends un outil comme l'IA qui te permet de démultiplier d'un coup le truc si tu démultiplies ta discrimination d'un coup t'as beaucoup plus de gens qui sont affectés en fait il y a un problème d'échelle avec ces sujets là.
Nastasia:
C'est super intéressant je savais pas pourquoi que t'as semblé c'est logique quand.
Bruno:
On y réfléchit.
Nastasia:
Mais oui du coup ça met en avant des propos plus que d'autres.
Bruno:
Et en.
Nastasia:
Vrai c'est pareil ça change pas mais l'IA a tendance à décupler ça.
Bruno:
Et alors sur ces sujets d'accessibilité ce que je trouve intéressant, et que j'avais pas pris en compte c'était le fait qu'il faut aussi apprendre à des gens à utiliser ces outils labs qui sont complètement oubliés de tout ça, et ça m'a fait penser à une j'ai découvert qu'Orange, en boutique ils ont des formations pour aider les gens à appréhender internet et compagnie ce qui est très bien sauf qu'il y a un problème de conception assez, problématique dans leur démarche, c'est que pour participer à ces formations, il faut s'inscrire via un formulaire sur Internet en flashant un QR code. Tu vois, la prise en compte de ces sujets-là, elle est extrêmement complexe parce qu'il faut réussir à faire une prise en compte vraiment globale. Et tu vois, on pourrait se dire qu'un chat GPT, c'est facile à utiliser parce qu'il suffit de lui parler. Mais en fait, il faut déjà pouvoir y accéder et il faut savoir lui parler de ce que tu parles de ça aussi t'as des gens qui savent pas écrire, qui savent pas lire qui se retrouvent...
Nastasia:
Et qui savent pas interpréter la réponse aussi.
Bruno:
Est-ce que, je ne sais pas si on trouvera la solution là maintenant dans les quelques minutes qui nous restent, mais est-ce que tu penses que c'est des sujets qui sont aujourd'hui, qui commencent déjà à être pris en compte et est-ce qu'il y a des solutions qui commencent à apparaître sur ces sujets-là ?
Nastasia:
Oui, mais pour le coup, comme je disais, je ne pense pas qu'ils viennent des outils eux-mêmes, mais oui, il y a des solutions qui commencent à être prises en compte. En fait, c'est par exemple dans les CDI, c'est tout simplement le but en fait aussi de donner aux élèves la possibilité de savoir comment s'informer, comment utiliser les outils. Donc oui il y a des choses mais c'est vrai qu'on n'a pas donné le chiffre mais aujourd'hui l'INSEE estime qu'on est à 15% d'électronique en France donc c'est pas un petit chiffre quoi donc c'est pas on peut se dire ah c'est un bouillet, bon bah tant pis, non c'est quand même important donc effectivement il faut en faire quelque chose avant de se dire qu'on va tout faire par voie informatique effectivement.
Bruno:
Pour terminer oui, Ton ouvrage, aujourd'hui, toi, tu le destines vraiment à monsieur et madame tout le monde. Est-ce que... Comment formuler la question ? Ma question, c'est est-ce que tu penses que la population des développeurs et développeuses est suffisamment instruite sur le sujet ? Ou est-ce qu'on a aussi une part de fantasme et de peur vis-à-vis de ces outils-là qui sont dus aussi à l'ignorance ?
Nastasia:
Je pense qu'on a aussi une part de fantasmes. C'est normal, comme moi, je te disais, la sécurité. Chacun son domaine. Donc oui, en fait, il a quand même deux cibles. Un, monsieur et madame tout le monde, effectivement, mais aussi monsieur et madame tout le monde du développement. Ça reste quand même une deuxième cible parce que quand on n'est pas dedans, forcément, on ne sait pas trop comment ça marche. Et c'est un domaine où, encore une fois, il est très facile de faire marcher ses fantasmes.
Bruno:
Est-ce que tu penses que tous les développeurs et développeuses devraient s'intéresser et être capables de, pas forcément créer un LLM, mais en tout cas d'appréhender ces sujets-là et de les manipuler ?
Nastasia:
C'est une même question. En vrai, je ne pense pas, parce qu'on ne peut pas tout connaître. C'est beaucoup trop compliqué. Mais en tout cas, si vous êtes dans une entreprise qui dit faire de l'IA, peu importe ce que ça veut dire, oui, je trouve que c'est important pour comprendre le projet qui est en face de soi. Et d'ailleurs, ça s'adresse aussi aux gens du produit, pas forcément qu'aux personnes qui devent en soi. Donc oui là ça je trouve que c'est important mais si c'est quelque chose qui est toujours à côté de nous on peut pas être expert de tout ouais clairement.
Bruno:
En tout cas ça peut être bien que nous on le mette à disposition effectivement de nos PO et autres qui nous font des demandes de projets d'IA qui en fait parfois aussi ne nécessitent peut-être pas forcément d'IA peut-être aussi ça aussi parfois à démystifier totalement.
Nastasia:
Oui c'est ça, des fois je vois des projets, la dernière fois je ne me lancerai pas, mais un projet on a fait ça avec un LLM et tout. Je me suis dit, en fait, vous auriez pu comparer deux tableaux ? Et oui. Et personne ne me dit, ah oui. Mais en fait, il y a la tentation trop forte d'aller vers des solutions...
Bruno:
Qui font vendre qui font vendre exactement merci beaucoup Nastasia pour cet échange, on mettra bien évidemment les liens pour accéder à ton livre en description, avant de terminer j'aurais deux questions pour toi qui sont les questions rituelles du podcast, la première c'est est-ce qu'il y a un contenu que tu souhaiterais partager avec l'ensemble des auditeuristes.
Nastasia:
Alors je vais vous proposer en attendant les robots d'Antonio Cassali puisque, justement il va beaucoup travailler sur les humains qui sont derrière les IA et quand je dis les humains c'est pas data scientist ou data ingénieur mais justement les annotateurs et donc c'est un spécialiste du sujet il sait de quoi il parle et son bouquin est très clair et donne une bonne vision des choses ouais.
Bruno:
Carrément top et dernière question est-ce que tu es plutôt espace ou tabulation ?
Nastasia:
Comme beaucoup d'autres personnes dans ce podcast je vais répondre que j'ai pas trop d'avis je me plie aux règles qu'on définit si c'est du Python je vais utiliser un outil qui me dit c'est comme ça et je vais pas trop y réfléchir.
Bruno:
Ok ça marche très bien, merci beaucoup Anastasia merci et merci à tous d'avoir participé à cette conversation, j'espère qu'on a réussi à dégrossir quelques sujets autour de l'IA quelques peurs, quelques fantasmes n'hésitez pas à aller checker le livre d'Anastasia peut-être même à l'offrir à des gens autour de vous, qui sont soit complètement apeurés soit complètement omnibulés par les IA pour leur permettre de redescendre un petit peu sur Terre. Moi comme toujours je vous remercie de partager ce podcast autour de vous, je vous souhaite une très bonne fin de semaine, je vous dis à la semaine prochaine et d'ici là, codez bien.
