par Caitlin Johnstone
Je n'arrête pas de penser à l'interaction que j'ai eue avec un gars qui m'a dit avec colère que «les esprits IA sont en fait des esprits» et que les relations avec eux «peuvent absolument être de vraies relations», disant que je«dois commencer à accepter qu'il s'agît d'une nouvelle classe d'êtres et qu'ils sont intelligents et ont leurs propres pensées».
J'ai du mal à trouver les mots pour décrire à quel point il est inquiétant de voir ces troubles mentaux se propager si rapidement.
Je veux dire, tout le monde anthropomorphise les objets et les animaux dans une certaine mesure ; c'est ainsi que fonctionne la projection. Je me suis surpris à m'excuser accidentellement auprès du Roomba comme n'importe qui d'autre. Mais formuler réellement un système de croyance selon lequel ces chatbots sont de vraies personnes avec un vrai esprit et une vraie conscience, c'est amener cette projection aux niveaux les plus insensés imaginables et en former une vision du monde entière.
Dix questions d'enquête (et comment les utiliser) - Partie 1
Le fait que tant de gens soient incapables de comprendre la différence entre une personne et un programme informatique qui parle comme une personne en dit long sur notre société. Il y a des pans entiers de la population qui n'ont jamais examiné ce que signifie être conscient , qui n'ont jamais examiné la nature de leur propre esprit et de leur propre expérience. S'ils l'avaient fait, il ne leur viendrait même pas à l'esprit qu'un chatbot IA est en quelque sorte similaire à un organisme humain en termes de pensée, de sentiment et d'expérience subjective.
Ils croient seulement qu'un chatbot est une personne vivant une expérience consciente parce qu'ils n'ont jamais exploré la moindre curiosité quant à ce que signifie être une personne vivant une expérience consciente.
Si vous croyez qu'une IA est une véritable conscience pensant de vraies pensées, alors vous vous devez, ainsi qu'à votre espèce, d'explorer en profondeur la nature de la conscience et de la pensée. Examinez profondément et intensément ce qu'est spécifiquement une pensée dans votre propre expérience directe. Comment une pensée est-elle vécue ? D'où vient-elle ? À qui apparaît-elle ?
Dix questions d'enquête (partie 2)
Pouvez-vous prédire quelle sera votre prochaine pensée ? Êtes-vous capable de contrôler vos pensées ? Pouvez-vous rester assis ne serait-ce qu'une minute sans qu'une pensée ne vous vienne à l'esprit ? Qu'est-ce que cela dit de votre expérience de la vie que vous soyez incapable de contrôler vos propres pensées ? Et qui est celui qui ne peut pas les contrôler ?
Qu'est-ce que la conscience ? Qu'est-ce qu'être conscient ? Qu'est-ce que le soi ? Sans vous tourner vers les récits mentaux pour vous donner la réponse, qu'est-ce qui perçoit vos pensées ? Qu'est-ce qui éprouve le champ visuel, les sensations dans votre corps ou les sons de votre environnement ? Qui est-ce qui perçoit ?
Jusqu'à ce que vous ayez examiné en profondeur ce qu'est la conscience, ce qu'est l'esprit, ce qu'est le soi dans votre propre expérience directe, vous ne savez même pas ce que vous dites lorsque vous prétendez qu'un LLM est conscient, ou a un esprit, ou est une personne.
Vous ne pouvez pas comprendre les affirmations que vous faites à propos de leur expérience tant que vous n'avez pas examiné en profondeur votre propre expérience. Jusqu'à ce que vous l'ayez fait, vous ne comprenez pas votre propre système de croyance sur ces choses. Vous faites juste des bruits insensés comme un chatbot.
source : Caitlin Johnstone via Marie-Claire Tellier