20 novembre → : Joyeuse Retraite ! 📽
20 novembre → : La Reine des Neiges 2 📽
20 novembre → : Les Misérables 📽
21 novembre → : L’alchimie de Noël 📽

L’intelligence artificielle de Microsoft génère de faux commentaires sur le web


  • Admin

    DeepCom est une intelligence artificielle créée par des chercheurs chinois de Microsoft. Grâce au Machine Learning, elle génère de faux commentaires sur les articles d’actualité publiés sur le web…

    text alternatif

    Alors que le web est déjà parsemé de Fake News, il faudra bientôt composer avec les faux commentaires. Un groupe de chercheurs chinois de la Beihang University et de Microsoft ont développé une IA dénommée » DeepCom » et capable de générer automatiquement des commentaires sur les articles d’actualité…

    Cette intelligence artificielle repose sur deux réseaux de neurones. Le premier est chargé de lire et d’analyser les mots de l’article, encodés sous forme de vecteurs. Les différentes couches du modèle traitent les différentes parties de l’article, en commençant par le titre, afin de déterminer quels sont les éléments importants ou intéressants.

    Les prédictions sont ensuite transmises au second réseau, un réseau génératif. Le modèle se charge de créer des réactions en se focalisant sur un sujet ou une personne mentionnés dans l’article. Ses créations sont ensuite décodées sous forme de mots et le commentaire n’a plus qu’à être posté.

    La crédibilité du faux commentaire dépend de la compréhension du texte par le premier réseau, et de la précision avec laquelle le second réseau génère le commentaire. Pour améliorer les performances de DeepCom, les chercheurs l’ont entraîné sur un ensemble de données regroupant des millions de commentaires postés par des internautes chinois et sur un dataset en langue anglaise obtenu auprès de Yahoo! News.

    L’IA de Microsoft représente de nombreux risques

    Afin d’entraîner le premier réseau, les chercheurs ont calculé à quel point les commentaires dans les données d’entraînement reprenaient les informations dans l’article correspondant pour identifier quelles parties étaient importantes. En guise d’exemple, les chercheurs présentent un texte sur le basketball dont les parties en rouge sont celles que DeepCom identifie comme importantes. En commentaire, l’IA déclare : » les Rockets vont beaucoup s’amuser dans cette série de matchs « .

    […]

    Article complet : https://www.lebigdata.fr/ia-microsoft-commentaires



  • […] En commentaire, l’IA déclare : » les Rockets vont beaucoup s’amuser dans cette série de matchs « .

    :gne: Mais c’est du gloubiboulga… I.A. comme Intelligence Abrutie.

    L’intelligence humaine, certes imparfaite et déconnante, comprend aussi son lot d’extractions, de recompositions et d’agrégations de données, de comparaisons, de mimétismes, de stéréotypes et d’idées reçues pour extraire son jus.

    Mais celle artificielle au stade où elle en est, n’intègre pas encore le niveau supérieur que sont la réflexion et le discernement, l’impartialité, l’objectivité du traitement des infos, la mise en perspective des concepts et le traitement des nuances de pensée, la flexibilité neuronale avec ses aptitudes d’adaptations et de corrections, l’indépendance par rapport aux flux de données factuels et le tri intelligent. Ni les facteurs émotionnels - même si souvent irrationnels chez l’humain - ces états d’âme encore impossibles à reproduire par la machine.

    M’enfin, sans verser dans la parano futuriste d’un Novmonde on devine bien pour quels desseins l’I.A est à ce point en plein développement.


  • Admin

    @aurel a dit dans L’intelligence artificielle de Microsoft génère de faux commentaires sur le web :

    […] En commentaire, l’IA déclare : » les Rockets vont beaucoup s’amuser dans cette série de matchs « .
    Mais c’est du gloubiboulga… I.A. comme Intelligence Abrutie.

    C’est effectivement du gloubiboulga qu’il n’est pourtant pas rare de lire dans les commentaire rédigés par des IA dotées d’un encéphale et d’un pouce préhenseur.
    Ce que tu appelles le niveau supérieur de la réflexion et du discernement est loin d’être équitablement partagé chez les chimpanzés sapiens sapiens qui disposent pourtant de dizaines de millions d’années d’évolution, d’essais, d’erreurs, de récompense et de retour derrière eux.



  • Non mais attends, le jour où le chimpanzé accèdera au smartphone il fera un bond significatif dans l’évolution (s’il n’a pas disparu avant). Son pouce à textos se développera en un rien de temps.



  • Mais le plus préoccupant est :

    […] Cependant, leur article ne mentionne pas les risques de dérives liées à une telle IA. Par exemple, on peut craindre que des régimes totalitaires utilisent les faux commentaires à des fins de propagande. De même, l’IA pourrait entamer des discussions houleuses avec les humains pour envenimer les conflits ou semer la désinformation. Des entreprises pourraient aussi s’en servir pour faire leur publicité…