Une dérive malveillante de l’intelligence artificielle est-elle possible? (Slate, décembre 2016). Dans l’article en préparation, nous cherchons à répondre à la question suivante: «Une IA ou une association d’IA est-elle en mesure de provoquer une situation de crise potentiellement militaire entre États, dès aujourd’hui ou à très court terme?». Explorer cette question revient à proposer un ou plusieurs scenarios rationnels (donc ne relevant pas de la science-fiction) mais s’appuyant sur des technologies acquises, maîtrisées ou en phase de développement … Nous sommes convaincus que le risque (et le danger) de dérive malveillante s’incarne dans des séquences de mécanismes relevant de l’intelligence artificielle, de systèmes d’apprentissage qui, associés ou mis bout à bout, deviennent potentiellement dangereux sans que chacun de ces mécanismes pris individuellement le soit. Le risque naît ainsi de l’association de ces mécanismes humains ou numériques et peut effectivement conduire à l’établissement d’un contexte de crise… Il s’agit alors bien d’une forme faible de l’alerte lancée par Hawking et Musk…

Curated from Une dérive malveillante de l’intelligence artificielle est-elle possible? | Slate.fr

Rendre l’intelligence artificielle accessible à tous, « une façon de se blanchir » pour les entreprises (Le Monde, décembre 2015). Plusieurs grands noms de la Silicon Valley mettent en garde contre des IA, tout en mettant à disposition leurs technologies. Une façon de poser en libérateurs. Les grandes entreprises du Web investissent massivement dans l’intelligence artificielle. Plus étonnant : elles ont, ces dernières semaines, rendu une partie de leurs technologies open source, c’est-à-dire qu’elles ont gratuitement mis à disposition le code source des systèmes d’IA qu’elles ont développés, parmi les plus perfectionnés au monde. Ces nouvelles annonces sont une stratégie de communication, pour dire : « même si la technologie peut être mauvaise, nous, on est les gentils ». Ça permet de désamorcer les attaques, c’est une façon de se blanchir au moment où ils sont plus puissants qu’ils ne l’ont jamais été. Aujourd’hui, ils ont plus à perdre de voir leur image ternie qu’à donner une partie de leur marché.

Curated from Rendre l’intelligence artificielle accessible à tous, « une façon de se blanchir » pour les entreprises

 

 

Comment le « deep learning » révolutionne l’intelligence artificielle (Le Monde septembre 2015). « Je n’ai jamais vu une révolution aussi rapide. On est passé d’un système un peu obscur à un système utilisé par des millions de personnes en seulement deux ans», Yann LeCun, un des pionniers du « deep learning », n’en revient toujours pas. Ce système d’apprentissage et de classification, basé sur des « réseaux de neurones artificiels » numériques, est, pêle-mêle, utilisé par Siri, Cortana et Google Now pour comprendre la voix, être capable d’apprendre à reconnaître des visages. « Comment reconnaître une image de chat ? Les points saillants sont les yeux et les oreilles. Comment reconnaître une oreille de chat ? L’angle est à peu près de 45°. Pour reconnaître la présence d’une ligne, la première couche de neurones va comparer la différence des pixels au-dessus et en dessous : cela donnera une caractéristique de niveau 1. La deuxième couche va travailler sur ces caractéristiques et les combiner entre elles. S’il y a deux lignes qui se rencontrent à 45°, elle va commencer à reconnaître le triangle de l’oreille de chat. Et ainsi de suite. A chaque étape – il peut y avoir jusqu’à une vingtaine de couches –, le réseau de neurones approfondit sa compréhension de l’image avec des concepts de plus en plus précis. « Avec les méthodes traditionnelles, la machine se contente de comparer les pixels. Le deep learning permet un apprentissage sur des caractéristiques plus abstraites que des valeurs de pixels, qu’elle va elle-même construire », précise Yann Ollivier.

Hawking : « L’intelligence artificielle pourrait mettre fin à l’humanité » (Le Monde, décembre 2014). Dans un entretien à la BBC, l’astrophysicien britannique Stephen Hawking craint que les humains, limités par une lente évolution biologique, ne puissent rivaliser avec l’intelligence artificielle. « Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité », a affirmé le professeur dans cet entretien. « Une fois que les hommes auraient développé l’intelligence artificielle, celle-ci décollerait seule, et se redéfinirait de plus en plus vite », a-t-il déclaré. « Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés »