Étudiant.es
  • Classements des écoles
  • Actualité étudiante
    • Licence
    • Master
    • MOOC
    • ENT
    • I-Prof
  • Dissertations et devoirsNEW
    • Art
    • Français
    • Histoire, géographie et politique
    • Littérature
    • Philosophie
    • Sciences économiques et sociales (SES)
  • Quiz métiers
  • Qui sommes-nous ?
  • Contact
  • Classements des écoles
  • Actualité étudiante
    • Licence
    • Master
    • MOOC
    • ENT
    • I-Prof
  • Dissertations et devoirsNEW
    • Art
    • Français
    • Histoire, géographie et politique
    • Littérature
    • Philosophie
    • Sciences économiques et sociales (SES)
  • Quiz métiers
  • Qui sommes-nous ?
  • Contact
Classements et avis des écoles en France en 2022 | Étudiant.es
No Result
Voir tous les résultats

Classement des écoles » Actualité étudiante » Ces anciens chercheurs de Google ont mis en garde contre les limites de l’intelligence artificielle et maintiennent leur travail

Ces anciens chercheurs de Google ont mis en garde contre les limites de l’intelligence artificielle et maintiennent leur travail

par L'équipe étudiant.es
20 juin 2022
dans Actualité étudiante
Partager sur FacebookPartager sur TwitterPartager sur LinkedinPartager sur WhatsAppPartager par email

Début 2020, deux co-responsables de l’équipe Ethical AI de Google, Timnit Gebru et Margaret Mitchell, se sont associés à plusieurs autres personnes pour un article sur l’intelligence artificielle – dont certains collègues de Google et les professeurs de l’Université de Washington Emily M. Bender et Angelina McMillan -Principal.

Dans cet article, ils ont fait valoir que l’intelligence artificielle (IA) n’était pas sensible, mais ont prédit que d’autres prétendraient qu’elle l’était. Et maintenant, selon Gebru et Mitchell, d’autres font cette affirmation à tort, comme ils l’avaient prédit.

Une personne qui a fait cette affirmation, rapportent Gebru et Mitchell dans un article publié par le Washington Post le 17 juin, est Blake Lemoine, un ingénieur logiciel pour Responsible AI que Google a mis en congé administratif.

« (Lemoine) croyait que le chatbot de Google, LaMDA, était sensible », expliquent Gebru et Mitchell. « ‘Je connais une personne quand je lui parle’, a déclaré Lemoine. Google avait rejeté ses réclamations et, lorsque Lemoine a contacté des experts externes, l’a mis en congé administratif payé pour avoir enfreint la politique de confidentialité de l’entreprise.

Gebru et Mitchell ajoutent: «Mais si cette affirmation semblait fantastique, nous n’étions pas surpris que quelqu’un l’ait faite. C’était exactement ce que nous avions prévenu qu’il se passerait en 2020, peu de temps avant d’être nous-mêmes licenciés par Google. L’affirmation de Lemoine montre que nous avions raison d’être préoccupés – à la fois par la séduction des bots qui simulent la conscience humaine et par la façon dont l’excitation autour d’un tel saut peut détourner l’attention des vrais problèmes inhérents aux projets d’IA.

Gebru et Mitchell notent que LaMDA signifie Language Model for Dialogue Applications, le décrivant comme « un système basé sur de grands modèles de langage (LLM) : des modèles entraînés sur de grandes quantités de données textuelles, généralement récupérées sans discernement sur Internet, dans le but de prédire séquences de mots probables.

Les LLM, ajoutent-ils, « assemblent et reproduisent le langage en fonction de ce qu’ils ont vu auparavant, sans lien avec le sens sous-jacent ».

« L’un des risques que nous avons décrits était que les gens imputent une intention de communication à des choses qui semblent humaines », expliquent Gebru et Mitchell. « Formés sur de grandes quantités de données, les LLM génèrent un texte apparemment cohérent qui peut amener les gens à percevoir un « esprit » alors que ce qu’ils voient vraiment est la correspondance de modèles et la prédiction de chaînes. Cela, combiné au fait que les données de formation – du texte provenant d’Internet – encode des opinions qui peuvent être discriminatoires et exclure de nombreuses populations, signifie que l’intelligence perçue des modèles soulève plus de problèmes que nous ne sommes prêts à résoudre.

Google, selon Gebru et Mitchell, n’était « pas satisfait » de l’article qu’ils ont écrit au début de 2020, et ils ont été « par la suite très publiquement licenciés » par le géant de la technologie. Mais ils s’en tiennent à ce papier.

« Moins de deux ans plus tard », écrivent Gebru et Mitchell, « notre travail n’en est que plus pertinent. La course au déploiement de modèles de plus en plus grands sans garde-corps, réglementation, compréhension de leur fonctionnement ou documentation des données de formation s’est encore accélérée dans les entreprises technologiques.

Gebru et Mitchell préviennent que les entreprises technologiques ont promu l’idée que l’intelligence artificielle possède de véritables « capacités de raisonnement et de compréhension » – ce qui, soulignent-ils, n’est pas le cas.

« Il y a des motifs de profit pour ces récits », écrivent les anciens employés de Google. « Les objectifs déclarés de nombreux chercheurs et sociétés de recherche en IA sont de construire une » intelligence générale artificielle « , un système imaginaire plus intelligent que tout ce que nous avons jamais vu, capable d’accomplir n’importe quelle tâche qu’un humain peut accomplir sans relâche et sans rémunération. Bien qu’un tel système ne se soit pas avéré réalisable, sans parler d’un bien net, les entreprises qui y travaillent amassent et étiquettent déjà de grandes quantités de données – souvent sans consentement éclairé et par le biais de pratiques de travail abusives.

Les entreprises technologiques, affirment Gebru et Mitchell, rendent un énorme mauvais service au public en essayant de convaincre les consommateurs que l’intelligence artificielle peut penser de manière critique de la même manière que les gens pensent de manière critique.

« La volonté d’atteindre cet objectif écarte les nombreux dommages potentiels non résolus des systèmes LLM », écrivent Gebru et Mitchell. « Et attribuer la » sensibilité « à un produit implique que tout acte répréhensible est l’œuvre d’un être indépendant, plutôt que de l’entreprise – composée de personnes réelles et de leurs décisions, et soumise à une réglementation – qui l’a créé. »

Gebru et Mitchell ajoutent : « Nous devons agir maintenant pour empêcher cette distraction et calmer le battage médiatique. Les scientifiques et les ingénieurs devraient se concentrer sur la construction de modèles qui répondent aux besoins des gens pour différentes tâches, et qui peuvent être évalués sur cette base, plutôt que de prétendre qu’ils créent une über intelligence. De même, nous exhortons les médias à se concentrer sur la responsabilisation du pouvoir, plutôt que de tomber dans l’éblouissement de systèmes d’IA apparemment magiques, vantés par des entreprises qui profitent de tromper le public sur ce que sont réellement ces produits.

L’histoire complète continue ici (abonnement requis).

Partager60Tweet38Partager11EnvoyerEnvoyer

★★★★★

Article précédent

La candidate du GOP House approuvée par Elise Stefanik a un jour qualifié les Noirs de « stupides et affamés »

Article suivant

Le sommet international sur le climat se termine par un échec « inadmissible » alors que les pays riches abandonnent les pays pauvres

L'équipe étudiant.es

étudiant.es : une équipe de jeunes étudiants vous proposant chaque jour du contenu de qualité sur la vie étudiante en France.

En rapport avec cet article

Les opposants à « l’establishment républicain » de Trump ne réalisent pas qu’ils mènent « un nouveau type de guerre »: analyste de données

4 février 2023

Il est temps de construire une économie qui fonctionne pour tout le monde

4 février 2023

«  Firehose de la désinformation  »: Sarah Huckabee Sanders fournira la réponse du GOP sur l’état de l’Union

4 février 2023

Voici pourquoi la législation anti-grève du gouvernement échouera

4 février 2023

« Il s’agit de cibler les femmes de couleur »: l’AOC fustige les républicains après l’éviction du comité d’Ilhan Omar

4 février 2023

Liz Truss « prépare un retour »

3 février 2023

Articles populaires

Prêt étudiant : toutes les informations essentielles

16 janvier 2023

Pourquoi le soutien scolaire est-il devenu si populaire ?

12 décembre 2022

Comment faire une demande de bourse auprès du CROUS ?

31 octobre 2022
No Result
Voir tous les résultats

Articles recommandés

Ce que vous devez savoir sur LinkedIn pour réussir

5 octobre 2022

Comment travailler dans la RSE ?

3 octobre 2022

L’intérêt des résidences coliving pour étudiants

30 septembre 2022

Comment se former en ligne ? 11 techniques pour réussir

27 septembre 2022

Formation DevOps en alternance : quelles sont les possibilités ?

23 septembre 2022

Quel plafond ne pas dépasser pour toucher la prime rentrée scolaire 2022 ?

23 septembre 2022

Comment aménager un studio de 9m2 ?

14 septembre 2022

Pourquoi faire une formation en développement web ?

13 septembre 2022

Quelle grande école pour réussir votre avenir ?

13 septembre 2022

Comment réussir son entretien d’embauche ?

9 septembre 2022

Comment passer son permis rapidement et pas cher ?

8 septembre 2022

Quel diplôme pour être skipper de voilier de croisière ?

7 septembre 2022

Comment faire ses courses en ligne facilement ?

7 septembre 2022

Combien coûtent les frais d’une formation VGP ?

6 septembre 2022

Pourquoi faire appel à une agence SEO ?

5 septembre 2022

Comment obtenir les informations essentielles pour accéder à l’école du tourisme ESG ?

12 août 2022

Qui sommes nous ?

Étudiant.es vous propose chaque jour le meilleur de l’actualité étudiante, ainsi que des classements et avis sur toutes les écoles en France.

Recevoir notre newsletter

Recevez les dernières actualités étudiantes en France directement par email.

  • Mentions légales
  • Contact

© 2022 Étudiant.es | Classements et avis des écoles en France en 2022 par Tremplin Numérique

No Result
Voir tous les résultats
  • Classements des écoles
  • Actualité étudiante
    • Licence
    • Master
    • MOOC
    • ENT
    • I-Prof
  • Dissertations et devoirs
    • Art
    • Français
    • Histoire, géographie et politique
    • Littérature
    • Philosophie
    • Sciences économiques et sociales (SES)
  • Quiz métiers
  • Qui sommes-nous ?
  • Contact

© 2022 Étudiant.es | Classements et avis des écoles en France en 2022 par Tremplin Numérique

Ce site utilise les cookies. En continuant votre navigation sur ce site, vous acceptez l'utilisation des cookies afin d'assurer le bon déroulement de votre visite et de réaliser des statistiques d'audience. Visitez nos mentions légales .