Une belle matinée... Le Turing Club et Viuz organisaient le 4 juillet dernier la première édition de la conférence IA et SOCIETE, quelle intelligence artificielle pour quelle société ?
>> voir ici toutes les photos
IA et SOCIETE est avant tout un projet collectif, porté par Viuz et Turing Club, et les neuf partenaires qui ont joué un rôle clé dans la co-construction de la conférence : Advalo, AI&DATA, CBC développement, Converteo, Inbox, Isoskèle, Wide, Velvet, Publicis ETO.
Quelques mots d'introduction des co-organisateurs...
Arnaud Contival, Turing Club : "La réflexion du Turing Club se porte sur 5 sujets principaux : la mise en place d’un « guide des bonnes pratiques data marketing » afin de permettre aux acteurs du marché d'adopter le même langage: la réalisation d’une enquête sur les fonctions liées à la data et les salaires dans le secteur, a création d’un label déontologique inscrit au privacy protection act qui devrait permettre de fédérer une éthique commune, des partenariats avec les écoles et universités qui permettront de pallier les difficultés de recrutement dans le secteur, une autre enquête sur la part des femmes dans les métiers de l’IA.
Andres Menajovsky, Viuz : Après la Nuit des rois et Marketing Remix qui aura lieu le 7 novembre prochain, Viuz se frotte à un sujet purement sociétal. Cela fait déjà quelques années que la data est sortie des problématiques business pour devenir un vrai enjeu de société
Quelques morceaux choisis :
Souveraineté et perspectives économique de l'IA
"La souveraineté c’est la supériorité du pouvoir sur une zone. »
En France, nous souffrons d’un gros retard face à l’Europe, tant que le plan des investissements que sur le plan des grande lignes politiques et stratégiques. Peut on rattraper une partie de ce retard et si oui comment ?
On a perdu la bataille de la quantité.
Pour s’y retrouver face aux grands acteurs, il faut se concentrer sur la bataille du sens : le zéro gâchis, notamment.
Si l’IA peut sembler nécessaire à un secteur donné, il existe des barrières pour son usage, des besoins de compétences et d’investissement qui restent importants. Il ne faut pas oublier que si on n’a pas une taille critique, on n’a pas de données, et donc on n’a pas d’IA.
Créer des alliances devient donc un enjeu de survie des entreprises de tailles moyennes. C’est là que se pose une question d’évangéliser le secteur. Il ne s’agit pas de partager sa base clients, mais de mettre en commun des ressources de connaissance du client. C’est faisable en respectant le RGPD et dans des conditions optimales de respect du consommateur.
Ce qu’il est important de noter, c’est que cette mise en commun des ressources va permettre de regagner de la puissance face aux GAFA et donc de protéger les consommateurs.
A l’heure ou les objets enregistrent les conversations à la maison, fédérer permettra de recapturer des parts de marché face aux plateformes internationales. L’IA permettrait alors, idéalement, de réduire le processus de décision en testant et validant des hypothèses beaucoup plus rapidement.
"Les robots ont des droits" par Alain Bensoussan
Alain Bensoussan est avocat à la cour d'appel de Paris, fondateur du réseau Lexing, il parle d’encourager la fin de l’individu et de célébrer les robots.
Comment l’IA et la data peuvent être à l’horizon d’une nouvelle civilisation ?
D’abord une définition : le robot physique est une coque vide contaminée par un « robot logiciel » qui fonctionne comme un cerveau primitif. Ce cerveau fonctionne comme une marmite d'algorithmes avec des datas obtenues via des capteurs de toute nature.
Pourquoi faire peser les droits sur les robots et non pas sur les humains qui les dirigent ?
Alain Bensoussan est formel, le monde de demain ne sera pas composé d'humains remplacés par des robot mais d'une mixité entre les deux. Dans un scénario de fiction futuriste, il évoque une voiture sans conducteur au coeur d’un accident impliquant 2 autres voitures conduites par des humains. Dans ce cas de figure, l’enquête a montré que le capteur de la voiture-robot a fait un choix impliquant, dans un cas ou l’accident inévitable, de sacrifier une autre voiture, celle contenant le moins de passagers. Qui est responsable ? Sachant que toutes les voitures disposent d’algorithmes de décision, il conclut en disant que la mixité c’est la nécessité de définir les règles du jeu.
Face à cela nous devons nous poser la question des risques de dépendance et d’esclavage technologique.
Le robot-médecin Watson se trompe 1 fois sur 10 là ou son confrère humain se trompe 1 fois sur 2. Sans donner de réponse, il évoque ici le sujet de la responsabilité et de la prise en compte des probabilités d’erreurs. Nous devons nous poser la question de la civilisation dans laquelle on veut vivre.
Face à ces questionnements, il existe un réel besoin de régulation par la charte ET par le droit. Au final, ce sera toujours l’humain qui aura le pouvoir d’appuyer sur le « bouton rouge » ou de définir qui aura ce pouvoir. Ce qui fera la différence demain, ce ne sera pas la technicité algorithmique ou la masse de données mais la capacité à incarner une certaine éthique personnelle pour ces datas et pour l’IA. "Il nous appartient à tous de créer une IA éthique par design ». Une IA qui prendrait en compte la propriété des données et le respect de l’intimité numérique.
Les futurs métiers
Une étude nous dit que d’ici 2025, 40% des emplois seront remplacés par des IA et la moitié des heures travaillées en France seront potentiellement automatisées d’ici les prochaines années (Etude Mc Kinsley).
Les métiers évoluent, nous sommes tous responsables de les accueillir dans nos sociétés. Isabelle Rouhan, fondatrice de Colibri-Talents et auteur de l’ouvrage "Les métiers du futur » insiste sur l’importance des soft skills et la nécessité pour les data scientists de demain d’avoir des notions de plus en plus importantes de business intelligence et de stratégie. Nous sommes déjà au coeur d’une génération qui se passionne pour le growth hacking.
Pour Jérémie Guez, jeune papa optimiste à la tête du Datalab de BNP Personal Finance, cela pourrait être un vecteur de croissance, si l’on accepte que l’on ne cherche pas un « mouton à 5 patte » mais bel et bien 2 moutons.
Globalement il ressort de cette table ronde un gros besoin de faire monter en compétence des gens qui en ont envie, tout en se concentrant sur les soft skills et pousser l’auto-formation sur la partie « hard skills » qui est de toute façon menacée en permanence par une obsolescence accélérée.
On détruit des emplois mais on en crée de nouveaux
Finalement, comme toute évolution technologique, la data oblige à développer une pédagogie très forte pour amener les équipes data et métier à fonctionner ensemble et envisager de plus en plus les changements de métier. Chacun doit être acteur de sa propre employabilité.
Enfin, pour revenir sur l’IA, les perspectives sont encore jeunes. Il est possible d’étendre le concept au recrutement en développant des chabots et moteurs de recherche, mais ici aussi l’automatisation a ses limites. Il ne s’agit pas de faire reproduire à l’IA les biais décisionnels qui posent problème chez les humains. Finalement il est important de préciser qu’on n’automatise pas des jobs ou des métiers mais des tâches.
IA et Démocratie
Le premier constat c’est qu’on assiste à une hyper-fragmentation de l’engagement politique et pas seulement sur le plan des bulles sociales. La globalisation facilitée par le digital a réduit les frontières physiques et les définitions identitaires. Aujourd’hui, nous ne sommes plus riche OU pauvre, blanc ou noir, gay ou hétéro. Nous sommes tous un peu tout à la fois.
Parallèlement à ce phénomène, les systèmes politiques se sont professionnalisés, comme le marketing et comme toujours dès lors qu’il y a un objectif de rentabilité, ils sont devenus « clivants », emportant avec eux la part commune de la société. Le bien commun et le consensus ont tendance à disparaître, et c’est précisément ce qui menace la démocratie, car dans cette situation les élections deviennent obsolètes mais aussi inutiles : Brexit, Trump. Les pays sont fracturés.
L’enjeu de make.org est de retrouver l’élan direct rendu possible par le digital et de le mettre au service de la démocratie. Agir sur le réel pour régler des problèmes de société à la place de l’état. Make.org est un outil de mobilisation massive sur des causes d’intérêt général. L’idée est de pousser les consensus pour lutter contre le clivage et recréer un socle commun. Le consensus doit alors fonctionner comme un gouvernement : permettre de remettre au centre des intérêts communs. Axel Dauchez n’est pas optimiste : « si la démocratie survit elle sera en constante reconstruction sauf sur certains sujets qui doivent rester sur leur logique régalienne".
Le seul algorithme socialement acceptable c’est le hasard
Si on souhaite recréer du consensus, il n’est pas question d’imposer l’IA dans la logique décisionnelle. En revanche, elle peut s’avérer un outil pour identifier des sujets, su réa collecte et la retransmission démocratique des informations. L’algorithmie n’est jamais mauvaise, c’est l’objectif dans lequel elle est créée qui va faire la différence. La décision en revanche doit rester séparée de l’IA.
IA et Ethique
On ne peut parler de démocratie sans évoquer le sujet de l’éthique. Le RGPD a changé la donne, en bien. Il s’existe plus un sujet où on ne se pose la question de la collecte des données. Parfois, cela se complique, comme dans le cas des mutuelles qui mettent en place des algorithmes pour prédire la valeur de leurs adhérents.
Mais qu'est-ce que la valeur ?
Quels que soient les indicateurs de performance que nous allons décider de suivre, ils auront quoi qu’il arrive des impacts philosophiques et éthiques importants en terme de discrimination.L’éthique doit concerner tout le monde, et si les détails restent flous, c’est une affirmation qui fait consensus.
Les utilisateurs sont de plus en plus en demande de transparence, d’information et de responsabilisation des acteurs.
Allant même jusqu’à pousser le bouchon, les acteurs du secteur font la chasse au consentement, au point de créer un écoeurement de la part des consommateurs. Aujourd’hui, il n’existe pas de droit patrimonial sur la donnée. Les lois qui régissent ce secteur appartiennent au droit de la propriété intellectuelle ou au droit de l’individu, il existe des lois qui régissent les acteurs valorisant la donnée, ou la concurrence déloyale, mais pas sur les données en tant que tel. Il est nécessaire dans les années à venir de créer une politique publique
Le machine learning ne peut pas éliminer les biais humains, mais il peut permettre de les atténuer.
Sur le sujet de l’emploi comme sur le sujet de l’éthique, le biais reste un des défis de l’IA dans les années à venir. L’exemple le plus marquant étant le biais de compréhension. Il nous est notamment expliqué qu’une altération même très légère peut changer la prédiction d’un modèle (un pixel différent peut par exemple changer la compréhension d’une image). Plus que jamais il paraît essentiel de rassurer les acteurs sur les éléments éthiques qui sont proposés dans la mise en place d’une IA.
Pour Michel Puech, philosophe à la Sorbonne et auteur de « Homo sapiens technologicus », nous vivons dans une bulle confortable et sympathique qui soudain se confronte à quelque chose de plus dangereux : l’homme ordinaire. Pourquoi tout le monde utilise Google et Amazon ? Parce que Google et Amazon savent répondre vite à un besoin urgent. Concrètement Google et Amazon ont changé la vie des gens, et il affirme qu’il n’existe pas d’autre raison d’être contre ce acteurs que des raisons morales et éthiques.
C’est pour cela que l’éthique doit se concentrer non pas sur la politique mais sur les pratiques dans la réalité.
Concernant les données, c’est à chacun de décider ce qu’il veut laisser savoir. Que penser de cela ? Michel Puech est formel, l'optimisme ou le pessimisme n’ont aucun intérêt en la matière car ils appartiennent à la futurologie et ce n’est pas ce qui nous intéresse. « Faisons de la présentologie ».
Ce qui important dans une relation commerciale, c’est la confiance et la relation qui a été tissée.
Le mot de la fin appartient à Claude Bitton, qui précise que si on dit que l’IA est « intelligente » c’est parce qu’elle permet de voir des connexions et relations qu’on n'avait pas vu à l’oeil nu. C’est de l’ordre du super pouvoir, et c’est ce qui implique des responsabilités.
"Vers la fin de l'individu ?" par Gaspard Koening
Gaspard Koening est philosophe, Ecrivain, Président GénérationLibre, auteur Le révolutionnaire, l'expert et le geek.
Sur ce sujet, pour lui, il ne s’agit pas de tenir un propos alarmiste sur la base d’un scénario catastrophe dans lequel l’IA finirait pas nous échapper, prendre le pouvoir et pourrait même nous détruire. Il y a un malentendu sur la définition de l’intelligence. L’IA n’est pas censé reproduire le process de la pensée humaine mais uniquement son résultat. Pour qu’une fabrique de trombone décide de détériore l’humanité dans le but de produire toujours plus de trombones, il faudrait qu’elle soit capable de persévérer dans son être or c’est très humain. Finalement, on a peur de pas réussir à donner une finalité à l’IA.
L’IA ne reconnaît pas des chats, elle suit le modèle posé par des millions et des millions de personnes ayant labellisé des centaines de milliers d’images de chat. Ce qui fonctionne aussi pour les tumeurs concernant l’exemple de Watson. Ce qu’il faut retenir, c’est que c’est finalement la personnalisation des processus qui crée un phénomène de « désindividualisation" de la société. Dès lors que la personne n’est plus considéré comme un individu mais comme une parcelle, il y a une remise en cause de l’idée de libre arbitre.
L’application industrielle de l’IA s’inscrit dans mouvement qui veut que l’être humain soit tellement biaisé qu’il soit incapable de prendre une décision par lui-même, créant le besoin d’un décisionnaire externe. Peu à peu nous avons délégué à la machine notre capacité à faire des choix, et cela va jusqu’à des choix de vie très importants comme la carrière ou la crèche des enfants.
L’autre élément important c’est lorsque la somme des infos traitées permet de prendre en compte le comportement du groupe. En industrialisant l’IA nous avons remis l’individu au sein du groupe en cherchant notamment à maximiser le bien-être du groupe en même temps que celui de l’individu et parfois, à son détriment. C’est l’exemple de Google Maps, qui va proposer un itinéraire permettant de réduire le trafic.
L’IA est communiste.
En conclusion, si on veut sauver l’individu il faut prendre à bras le corps la notion de libre arbitre et la réintroduire dans l’IA.
Il faut nudger son propre nudge.
Si vous contrôlez les datas sortantes vous pouvez diriger votre propre nudge quitte à ce que ce soit au détriment de la collectivité. Cette question amène un nouveau sujet : lorsque l’IA permet d’inscrire l’individu au centre de la relation client, et comment la personnalisation se manifeste.
Nouveaux modèles, nouveaux paradigmes
Aujourd’hui nous utilisons des sens qu’on attribue à l’humain (tels que la reconnaissance d’image) pour organiser des contenus d’upsell, crossell etc … En réalité, il s’agit surtout d’accélérer des tâches que l’on faisait à la main, mais on réalise que la technologie nous oblige à changer notre façon de travailler. Ce qui n’a rien de nouveau, si on regarde l’histoire, nous n’en sommes pas à notre première révolution numérique. Mais tout va de plus en plus vite.
Au final, si pour le moment son application la plus courante reste d'alléger entreprises de tâches répétitive manuelles et administratives, le moment arrive ou l’IA pourra créer de la valeur, comme ces banques qui ont réussi à identifier des comportements déviants et protéger ses clients.
En réalisant son Observatoire des consommateurs, l’entreprise Generali a pu constater que la maturité des consommateurs sur l’IA était assez faible.
La technologie c’est la conséquence, jamais la cause.
Ce qu’il faut retenir, c’est que l’IA reste un produit de consommation. Ses usages répondent à une demande économique qui vient des plateformes. La vraie révolution ce sont les plateformes. Lorsque le vrai enjeu économique est de réduire le temps de réponse et que l’IA propose des solutions, ce n’est pas une révolution, c’est de l’innovation incrémentale, la vraie innovation ce sont les modèles d’organisation.
L’exemple marquant c’est Meero, la plateforme qui met en relation photographes et clients au tarif de 30 euros de l’heure. Cela semble choquant, mais derrière il y a une réalité : le photographe ne fait que la prise de vue, la retouche est réalisée par une IA. On assiste donc à une « vassalisation" des entreprises qui vont concéder une partie de leur marge pour négocier des plateformes.
Dans l’antiquité on se déchargeait sur des esclaves, aujourd’hui nous le faisons sur des robots.
Il faut s’attacher à recréer de la valeur en créant des synergies entre les personnes et les entreprises. Il est encore difficile de confier à un robot les idées et l’émotionnel et le talent humain a sa place dans me modèle économique du futur.
"L'intelligence artificielle, un anti-humanisme radical ?"
Eric Sadin en échange avec Andrès Menajovsky
Eric Sadin est poète et philosophe, auteur de L'intelligence artificielle ou l'enjeu du siècle
Il appelle à une forme de recul par rapport au discours ambiant. Nous ne cessons de parler de l’IA sans se demander en réalité « à quoi avons nous affaire ». On ne parle que des effets d’application de l’outil.
Il y a clairement un changement de statut des technologies numériques qui ne sont plus seulement destinées à la collecte, le stockage et l'indexation aisée d’informations, qui vont de plus en plus loin, développant chaque jour des nouvelles fonctionnalités permettant d’expertiser des états du réel et d’influencer les comportements, comme c’est le cas avec les informations sur le trafic par exemple.
Mais cette faculté auto décisionnelle reste fondée sur une quantité de critères définis par des humains. L’IA dit la vérité.
La vérité n’est pas l’exactitude.
C’est une vérité qui est relative aux systèmes. Et le fait est que si l’IA a dessaisi des secteurs entiers de compétences, et que certains jugent ce fait inacceptable, il y a une forme de déficience.
"Comment le groupe bancaire BPCE joue le jeu de l'Open Data" par Pierre-Philippe Cormeraie
Pierre-Philippe Cormeraie, Chief data evangelist chez BPCE raconte comment le groupe aux 9 millions de sociétaires a investi l’open data afin de faciliter la vie des gens.
L’open data ou le retour de l’humain dans la data.
La première chose importante c’est que pour réaliser un projet d’open data, il a fallu beaucoup d’échanges et de rencontres avec l’écosystème. Il s’agit de co-créer des modèles qui vont répondre à des vrais besoins, à commencer par mettre ses horaires d’ouverture dans une app pour offrir une information à jour.
Pour connaître ces besoins, il a fallu aller vers des personnes, des groupes et des individus qui ne font pas le même métier. C’est en parlant avec les consommateurs et des acteurs du transport qu’est née, par exemple; l’idée d’ouvrir des agences en fonction des arrêts et horaires des transports en commun. C’est à ce moment là que la data devient physique, tangible, et retrouve sa fonction première : servir l’humain.
Un sujet passionnant qui clôturait cette journée d’échange très intense sur des sujets ou finalement, on réalise que le plus important reste et restera le rapport humain. C’est un sujet que nous développons chez Viuz, au fil de nos rencontres et de nos conférences.
Vous pouvez nous suivre sur Viuz.com pour connaitre les dates de nos prochains événements, à commencer par Marketing Remix qui aura lieu le 7 novembre - Marketing Remix, la conférence 0% bullshit sur les revolutions de l'expérience, de la publicité et des contenus.
