Embedded AI – de nouveaux usages terrain grâce à l’IA embarqué

A l’heure où l’importance de l’Intelligence Artificielle n’est plus discutée, il est intéressant d’observer l’émergence de l’Embedded Artificial Intelligence, ou Intelligence Artificielle Embarquée, qui risque, dans les années à venir, de rendre l’IA encore plus omniprésente et accessible. Pour des usages liés entre autres à l’industrie du futur, le véhicule autonome, les objets connectés ou la cybersécurité, le marché de l’Embedded AI apporte de réelles solutions sur le terrain et regorge d’opportunités.

S’affranchir du cloud pour une prise de décision sur le terrain « en embarqué »

TellMePlus, une pépite française de l’Intelligence Artificielle présente sur le dernier mapping Smart Industry du Hub de Bpifrance, a fait de ce nouveau mode de déploiement son cheval de bataille et son Directeur des ventes, Pierre Fabre, à l’occasion d’un meetup à Station F le 28 Novembre 2017, évangélise sur les avantages qu’il procure : fonctionnement en autonomie (offline) et rapidité de décisions (quelques centaines de millisecondes). L’embarqué prend en effet tout son sens dans le cadre d’un déploiement en usine en milieu critique où les relais de communication en basse fréquence ne couvrent pas toute la surface ou sont instables. Les use cases sont encore plus évidents pour les véhicules. Alors que les premières voitures autonomes font leur apparition chez les géants du numérique ou chez les constructeurs les plus audacieux, les trous de couverture réseau ne permettent pas de se reposer sur le cloud pour prendre une décision critique comme « freiner ou faire une embardée ». D’où la nécessité de décider depuis l’équipement ou à l’extrémité du réseau.

Privacy by design

Au cours des échanges lors de l’événement, Joseph Dureau, CTO chez Snips insiste sur deux autres qualités de l’embarqué. Le traitement in situ de la donnée est privacy by design. En effet, le fonctionnement en embarqué permet de ne jamais être possesseur de la donnée. En cela, Snips, éditeur d’une solution d’assistant vocal BtoB se démarque des GAFA (Alexa de Amazon, Siri de Apple, M. de Facebook et Google Home). « La voix est un marqueur biométrique, rappelle Joseph Dureau, et permet avec un échantillon de quelques dizaines de secondes d’identifier une personne toute sa vie. » A la veille de l’application de la nouvelle réglementation européenne RGPD (Règlement européen sur la protection des données), l’embarqué représente donc une responsabilité en moins pour l’entreprise qui traite des données personnelles. Et une liberté en plus pour l’utilisateur final souhaitant rester anonyme.

L’autre qualité de l’embarqué est purement comptable. Snips qui fait le choix du tout embarqué simplifie le calcul des coûts de fabrication des objets connectés dont il fournit la brique logicielle pour l’interface vocale. Le fabricant ne devra pas prendre en compte la location d’un serveur hébergeant le modèle d’IA tout au long de la vie de l’objet.

Adaptable à la voix, à l’image ou aux données de santé machine

Selon le poids des données qui sont traitées, le système est déployé complètement en embarqué ou plutôt en edge ou fog computing. Ainsi tandis que la voix ou les signaux de pression, de vibration ou de température pourront faire l’objet de décision en embarqué dans l’objet ou l’équipement, les flux d’images devront être traités par une architecture ad hoc dotée en capacité de calcul : c’est le fog ou le edge computing qui permet de traiter des données lourdes ou en grande quantité.

Prenons le cas de la startup Scortex qui propose des contrôles d’aspect pour l’industrie manufacturière grâce à de l’inspection automatisée en deep learning. Au nom de la robustesse de l’architecture, le CEO explique devoir recourir à l’edge computing. « Certaines de nos applications traitent entre 8 à 9 gigaoctets d’images, passer par le cloud est donc impensable pour un traitement rapide » (Aymeric De Pontbriand, CEO de Scortex). Plus lourde est la donnée traitée, plus puissante sera la capacité de calculs nécessaire at the edge.

Des niveaux d’indépendance au cloud variables

Quels sont les niveaux d’indépendance au cloud ? Plusieurs variantes sont permises.

Car si, dans l’embarqué, les scénarios d’échec ou de réussite sont traités directement depuis l’appareil ou grâce au edge computing, certaines architectures – business critical – permettent une amélioration du modèle par la transmission de ces scénarios à la plateforme cloud tandis que d’autres peuvent se contenter du « tout embarqué ». Pour l’IoT grand public notamment, le fournisseur du service n’est pas contraint à une amélioration continue de son modèle et peut se passer du feedback loop sans que l’expérience utilisateur soit détériorée.

Concrètement si on reprend l’exemple de Snips, 3 opérations sont réalisées en embarqué :

• la détection des mots clefs ou « hot word » qui déclenche le processus de traitement, réalisé en deep learning,
• la reconnaissance vocale ou « natural language understanding » qui renvoie à la traduction de la requête orale en une ligne de texte, réalisé en deep learning également,
• le traitement du langage naturel ou « natural language processing » qui renvoie à la traduction de la ligne de texte en une intention et en une ou plusieurs paramètres de l’intention, réalisé sans deep learning.

L’IA embarqué, une vraie tendance de fond

Outre Atlantique, l’Intelligence Artificielle Embarquée est portée par beaucoup de constructeurs automobiles qui y voient la solution pour la voiture autonome de demain. Aux fabricants de semi-conducteurs comme Qualcomm et Nvidia de répondre par des puces toujours plus  performantes permettant de traiter une grande quantité d’images. À l’occasion de l’Embedded Vision Summit qui s’est tenu en Californie du 1^er au 3 mai, c’est Cadence qui a dévoilé sa nouvelle puce, Tensilica Vision C5, un cœur de DSP optimisé pour traiter l’information issue des capteurs Lidar/Radar et de fusion de capteurs. À voir si à l’avenir, l’utilisation de l’embarqué se généralise à tous les secteurs grâce au double phénomène de compacité des puissances de calcul et du cloud computing.