Drone pulvérisant des pesticides sur un champ de blé.
L'intelligence artificielle (IA) est sur le point de conduire une révolution agricole et d'aider à relever le défi de nourrir notre population mondiale croissante de manière durable. Mais les chercheurs avertissent que l'utilisation de nouvelles technologies d'IA à grande échelle comporte d'énormes risques qui ne sont pas pris en compte.
Imaginez un champ de blé qui s'étend jusqu'à l'horizon, cultivé pour la farine qui sera transformée en pain pour nourrir la population des villes. Imaginez que toute l'autorité pour labourer, planter, fertiliser, surveiller et récolter ce champ ait été déléguée à l'intelligence artificielle :des algorithmes qui contrôlent les systèmes d'irrigation goutte à goutte, les tracteurs autonomes et les moissonneuses-batteuses, suffisamment intelligents pour réagir au temps et aux besoins exacts de la culture. Imaginez ensuite qu'un pirate informatique gâche tout.
Une nouvelle analyse des risques, publiée récemment dans la revue Nature Machine Intelligence , avertit que l'utilisation future de l'intelligence artificielle dans l'agriculture comporte des risques potentiels substantiels pour les exploitations agricoles, les agriculteurs et la sécurité alimentaire qui sont mal compris et sous-estimés.
"L'idée de machines intelligentes gérant des fermes n'est pas de la science-fiction. Les grandes entreprises sont déjà à l'avant-garde de la prochaine génération d'ag-bots autonomes et de systèmes d'aide à la décision qui remplaceront les humains sur le terrain », a déclaré le Dr Asaf Tzachor du Centre for the Study of Existential Risk (CSER) de l'Université de Cambridge, premier auteur de le papier.
"Mais jusqu'à présent, personne ne semble avoir posé la question" y a-t-il des risques associés à un déploiement rapide de l'IA agricole ?", a-t-il ajouté.
Malgré l'énorme promesse de l'IA pour améliorer la gestion des cultures et la productivité agricole, les risques potentiels doivent être traités de manière responsable et les nouvelles technologies correctement testées dans des contextes expérimentaux pour s'assurer qu'elles sont sûres et protégées contre les défaillances accidentelles, les conséquences imprévues et les cyber-attaques, les auteurs dire.
Dans leurs recherches, les auteurs ont dressé un catalogue des risques qui doivent être pris en compte dans le développement responsable de l'IA pour l'agriculture – et des moyens d'y faire face. Dans ce document, ils sonnent l'alarme sur les cyber-attaquants susceptibles de perturber les fermes commerciales utilisant l'IA, en empoisonnant des ensembles de données ou en arrêtant les pulvérisateurs, les drones autonomes et les moissonneuses robotisées. Pour se prémunir contre cela, ils suggèrent que les "pirates pirates" aident les entreprises à découvrir toute faille de sécurité pendant la phase de développement, afin que les systèmes puissent être protégés contre les vrais pirates.
Dans un scénario associé à une défaillance accidentelle, les auteurs suggèrent qu'un système d'IA programmé uniquement pour fournir le meilleur rendement des cultures à court terme pourrait ignorer les conséquences environnementales de cette réalisation, conduisant à une surutilisation des engrais et à l'érosion des sols à long terme. L'application excessive de pesticides à la recherche de rendements élevés pourrait empoisonner les écosystèmes; une application excessive d'engrais azotés polluerait le sol et les cours d'eau environnants. Les auteurs suggèrent d'impliquer des écologistes appliqués dans le processus de conception de la technologie pour s'assurer que ces scénarios sont évités.
Des machines autonomes pourraient améliorer les conditions de travail des agriculteurs en les soulageant du travail manuel. Mais sans une conception technologique inclusive, les inégalités socio-économiques qui sont actuellement ancrées dans l'agriculture mondiale - y compris les discriminations de genre, de classe et ethnique - persisteront.
"Les systèmes agricoles experts en IA qui ne tiennent pas compte de la complexité des intrants de main-d'œuvre ignoreront et soutiendront potentiellement l'exploitation des communautés défavorisées", a averti Tzachor.
Divers ag-bots et machines de pointe, tels que des drones et des capteurs, sont déjà utilisés pour recueillir des informations sur les cultures et soutenir la prise de décision des agriculteurs :détection de maladies ou d'une irrigation insuffisante, par exemple. Et les moissonneuses-batteuses autonomes peuvent apporter une récolte sans avoir besoin d'un opérateur humain. Ces systèmes automatisés visent à rendre l'agriculture plus efficace, à réduire les coûts de main-d'œuvre, à optimiser la production et à minimiser les pertes et le gaspillage. Cela conduit à une augmentation des revenus des agriculteurs ainsi qu'à une plus grande dépendance à l'IA agricole.
Cependant, les petits producteurs qui cultivent la majorité des exploitations dans le monde et alimentent de vastes étendues du soi-disant Sud global sont susceptibles d'être exclus des avantages liés à l'IA. La marginalisation, les faibles taux de pénétration d'Internet et la fracture numérique pourraient empêcher les petits exploitants d'utiliser les technologies de pointe, creusant ainsi les écarts entre les agriculteurs commerciaux et les agriculteurs de subsistance.
Avec environ deux milliards de personnes souffrant d'insécurité alimentaire, dont quelque 690 millions de personnes souffrant de malnutrition et 340 millions d'enfants souffrant de carences en micronutriments, les technologies d'intelligence artificielle et l'agriculture de précision promettent des avantages substantiels pour la sécurité alimentaire et nutritionnelle face au changement climatique et à une population mondiale croissante .
"L'IA est saluée comme le moyen de révolutionner l'agriculture. Alors que nous déployons cette technologie à grande échelle, nous devons examiner de près les risques potentiels et viser à les atténuer dès le début de la conception de la technologie », a déclaré le Dr Seán Ó hÉigeartaigh, directeur exécutif du CSER et co-auteur de la nouvelle recherche.
Référence :"L'intelligence artificielle responsable dans l'agriculture nécessite une compréhension systémique des risques et des externalités" par Asaf Tzachor, Medha Devare, Brian King, Shahar Avin et Seán Ó hÉigeartaigh, 23 février 2022, Nature Machine Intelligence .
DOI :10.1038/s42256-022-00440-4
Cette recherche a été financée par Templeton World Charity Foundation, Inc.
