Bots, Babes and the Californication of Commerce

[Abstract] This article examines the recent trend in automated electronic commerce to animate avatars and other electronic entities in order to build trust relationships with consumers. The analysis begins with a discussion of the law of contract as it applies in the context of automation and an investigation of the technologies that automate electronic commerce. Tracing the architectures of human-computer interaction (HCI) back to their conceptual origins in the field of artificial intelligence (AI), the author then exposes some of the techniques used to deceive consumers. In a disturbing trend styled the californication of commerce, electronic entities are used to simulate familiarity and companionship in order to create the illusion of friendship. Such illusions can be exploited to misdirect consumers, the net effect of which is to diminish consumers' ability to make informed choices and to undermine the consent principle in data protection and privacy law. The author questions whether our lawmakers ought to respond by enacting laws more robust than those stipulated in today's typical electronic commerce legislation which, for the most part, tend to be limited to issues of form and formation. The author concludes by foreshadowing an important set of concerns lurking in the penumbras of our near future, and demonstrating that some persons are in need of legal protection right now - protection not from intelligent machine entities but, rather, from the manner in which some people are using them. *****[Résumé] Cet article examine la tendance récente dans le domaine du commerce électronique automatisé à recourir à l’animation d’avatars et d’autres entités électroniques afin de développer une relation de confiance avec les consommateurs et consommatrices. L’analyse commence par une discussion du droit des contrats, tel qu’il s’applique dans le contexte de l’automation, et une étude des technologies pour automatiser le commerce électronique. Tra ant les structures de l’interaction personne/machine jusqu’à leurs origines conceptuelles dans le monde de l’intelligence artificielle, l’auteur souligne certaines techniques utilisées pour tromper les consommateurs. Dans un courant de commerce perturbant, dit californien, des entités électroniques servent à stimuler la familiarité et la camaraderie afin de créer une illusion d’amitié. Il est possible d’exploiter ces illusions afin de confondre les consommateurs et de diminuer leur capacité de faire des choix éclairés. Cela mine le principe du consentement sous-jacent à la protection des données et au droit relatif