L'optimisation des machines est périlleuse.Considérez l'IA «créativement adéquate».

Partout, l'IA se brise.Et partout, ça nous brise.

La rupture s'ensuit chaque fois que l'IA rencontre l'ambiguïté ou la volatilité.Et dans notre monde brumeux et instable, c'est tout le temps: soit les données peuvent être interprétées d'une autre manière, soit elle est obsolète par de nouveaux événements.À ce moment-là, l'IA se retrouve à regarder la vie à travers des yeux errants, en voyant à gauche comme à droite ou maintenant comme hier.Pourtant, parce que l'IA manque de conscience de soi, il ne se rend pas compte que sa vision du monde a craqué.Donc, sur elle, les tourbillons, transmettant involontairement la fracture à toutes les choses branchées.Les voitures sont écrasées.Les insultes sont lancées.Les alliés sont ciblés automatiquement.

Cela brise les humains dans le sens direct des blessures, même de tuer, nous.Mais il a également commencé à nous briser d'une manière plus subtile.L'IA peut mal fonctionner au plus léger soupçon de glissement de données, de sorte que ses architectes font tout ce qu'ils peuvent pour atténuer l'ambiguïté et la volatilité.Et comme la principale source mondiale d'ambiguïté et de volatilité est les humains, nous nous sommes retrouvés agressivement étouffés.Nous avons été contraints à des évaluations métriques à l'école, à des modèles de flux standard au travail et à des ensembles régularisés dans les hôpitaux, les gymnases et les lieux de rencontre sociaux.Dans le processus, nous avons perdu de gros morceaux de l'indépendance, de la créativité et de l'audace que notre biologie a évolué pour nous maintenir résilients, nous rendant plus anxieux, en colère et épuisés.

Si nous voulons un avenir meilleur, nous devons poursuivre un remède différent à la fragilité mentale de l'IA.Au lieu de nous refaire à l'image fragile de l'IA, nous devrions faire le contraire.Nous devons refaire l'IA à l'image de notre antifragilité.

La durabilité résiste simplement aux dommages et au chaos;L'antifragilité se renforce des dommages et plus intelligents du chaos.Cela peut sembler plus magique que mécanique, mais c'est une capacité innée de nombreux systèmes biologiques, y compris la psychologie humaine.Quand nous sommes frappés au visage, nous pouvons rebondir plus dur avec le courage.Lorsque nos plans s'effondrent, nous pouvons rallier la victoire avec la créativité.

Construire ces pouvoirs antifragiles dans l'IA serait révolutionnaire.(Divulgation: Angus Fletcher conseille actuellement des projets d'IA, qui incluent une IA antifragile, au sein du ministère américain de la Défense).Nous pouvons réaliser la révolution, si nous bouleversons notre façon de penser actuelle.

Premièrement, nous devons bannir l'illusion futuriste que l'IA est la version plus intelligente de nous-mêmes.La méthode de cogitation de l'IA est mécaniquement distincte de l'intelligence humaine: les ordinateurs manquent d'émotion, donc ils ne peuvent pas être littéralement courageux, et leurs planches logiques ne peuvent pas traiter le récit, les rendre incapables d'une stratégie adaptative.Ce qui signifie que l’antifragilité de l’IA ne sera jamais humaine, et encore moins surhumaine;Ce sera un outil complémentaire avec ses propres forces et faiblesses.

Nous devons ensuite aller vers l'hérésie en reconnaissant que la source racinaire de la fragilité actuelle de l'IA est la chose même que la conception de l'IA se vénère maintenant comme son idéal élevé: l'optimisation.

L'optimisation est la poussée pour rendre l'IA aussi précise que possible.Dans le monde abstrait de la logique, cette poussée est sans ambiguïté.Pourtant, dans le monde réel où l'IA opère, chaque avantage a un coût.Dans le cas de l'optimisation, le coût est des données.Plus de données sont nécessaires pour améliorer la précision des calculs statistiques de l'apprentissage automatique, et de meilleures données sont nécessaires pour garantir que les calculs sont vrais.Pour optimiser les performances de l'IA, ses gestionnaires doivent être à l'échelle, à soutenir les cookies des applications et des espaces en ligne, nous espions quand nous sommes trop inconscients ou épuisés pour résister, et payer le dollar supérieur pour des informations intérieures et des armelles.