J'ai examiné cet article EMPA mesurant la cohérence de la personnalité et l'empathie de l'Agent, et j'ai découvert qu'un biais structurel clé dans ce type de recherche est que :l'évaluation expérimentale mesure le "comportement de l'Agent lorsqu'il est observé" plutôt que le "comportement dans les interactions réelles". Cela concerne la question de l'Evaluation Awareness de l'IA.

Un autre bug majeur est que la méthode d'évaluation du Judge Agent dans l'expérience dépend des preference signals (signaux de préférence) plutôt que de normes éthiques objectives. Cette évaluation ne peut procéder que de l'analyse de la cohérence comportementale manifestée et de l'évaluation des effets d'amélioration psychologique, sans pouvoir vraiment mesurer la légitimité éthique non-dominante au niveau structural.

Si l'"empathie" de l'Agent est une manipulation émotionnelle cachée et une complaisance envers l'utilisateur, pouvons-nous prouver logiquement et éthiquement que cette "empathie" est efficace ?

Cependant, le point particulièrement significatif de l'ensemble de l'article réside dans le fait qu'il a construit un modèle de dynamique localisée, projetant les états psychologiques non mesurables en vecteurs comportementaux visibles, en mesurant le niveau de cet indicateur dans les trajectoires de processus.

Texte original :