mastodon.xyz is one of the many independent Mastodon servers you can use to participate in the fediverse.
A Mastodon instance, open to everyone, but mainly English and French speaking.

Administered by:

Server stats:

854
active users

#chatbot

14 posts14 participants1 post today

I made another foray into the ethics of AI, this time with my colleagues Jan-Willem van der Rijt and Bram Vaassen.

arxiv.org/abs/2503.05723

We argue that some interactions with chatbots involve a kind of offense to users' dignity. When we treat chatbots as if they were fellow moral agents, we enter into an asymmetrical relation where we give moral recognition but cannot get any back. This is a failure of self-respect, a form of self-debasement.

Comments welcome!

arXiv logo
arXiv.orgAI Mimicry and Human Dignity: Chatbot Use as a Violation of Self-RespectThis paper investigates how human interactions with AI-powered chatbots may offend human dignity. Current chatbots, driven by large language models (LLMs), mimic human linguistic behaviour but lack the moral and rational capacities essential for genuine interpersonal respect. Human beings are prone to anthropomorphise chatbots. Indeed, chatbots appear to be deliberately designed to elicit that response. As a result, human beings' behaviour toward chatbots often resembles behaviours typical of interaction between moral agents. Drawing on a second-personal, relational account of dignity, we argue that interacting with chatbots in this way is incompatible with the dignity of users. We show that, since second-personal respect is premised on reciprocal recognition of second-personal authority, behaving towards chatbots in ways that convey second-personal respect is bound to misfire in morally problematic ways, given the lack of reciprocity. Consequently, such chatbot interactions amount to subtle but significant violations of self-respect: the respect we are dutybound to show for our own dignity. We illustrate this by discussing four actual chatbot use cases (information retrieval, customer service, advising, and companionship), and propound that the increasing societal pressure to engage in such interactions with chatbots poses a hitherto underappreciated threat to human dignity.

81% des travailleurs et travailleuses US n'utilisent pas l'IA au travail (genAI, chatbot). Celles et ceux qui le font travaillent souvent dans la donnée et dans le numérique.

Ce sont les plus jeunes qui s'en servent le plus, de la façon la plus avancée, mais les usages restent assez basiques dans l'absolu. nngroup.com/articles/ai-adopti

Nielsen Norman GroupAI Adoption in the Workplace Still Low, 2 Years LaterDesigners may think AI features are now familiar to our users, but recent research suggests that adoption is still lower than we might think.
#ai#ia#genai

Israel entwickelt ChatGPT-ähnliches Tool, das die Überwachung von Palästinensern zu einem Mittel der Kriegsführung macht

Die israelische Armee erstellt ein KI-Sprachmodell, das Millionen abgefangener Gespräche zwischen Palästinensern verwendet und den Prozess der Anklage und Verhaftung beschleunigen könnte, wie eine gemeinsame Untersuchung zeigt.

Die israelische #Armee entwickelt ein neues, #ChatGPT-ähnliches KI-Tool und trainiert es mit Millionen arabischer Gespräche, die durch die #Überwachung von Palästinensern in den besetzten Gebieten gewonnen wurden, wie eine Untersuchung des +972 Magazine, Local Call und des Guardian aufdecken konnte.

Das KI-Tool, das unter der #Schirmherrschaft von Unit 8200, einer #Eliteeinheit für #Cyberkriegsführung innerhalb des israelischen #Militärgeheimdienstes, entwickelt wird, ist ein sogenanntes Large Language Model (#LLM): ein maschinelles #Lernprogramm, das in der Lage ist, Informationen zu analysieren und Texte zu generieren, zu übersetzen, vorherzusagen und zusammenzufassen. Während öffentlich zugängliche LLMs, wie die Engine hinter ChatGPT, mit Informationen aus dem Internet trainiert werden, wird das neue Modell, das von der israelischen Armee entwickelt wird, mit riesigen Mengen an Informationen gefüttert, die über das #Alltagsleben der unter #Besatzung lebenden #Palästinenser gesammelt wurden.

Die Existenz des LLM der Einheit 8200 wurde gegenüber +972, Local Call, und dem Guardian von drei israelischen #Sicherheitsquellen bestätigt, die über die Entwicklung des Modells informiert sind. Das Modell wurde in der zweiten Hälfte des vergangenen Jahres noch trainiert, und es ist unklar, ob es bereits eingesetzt wurde oder wie genau die Armee es einsetzen wird. Quellen erklärten jedoch, dass ein entscheidender Vorteil für die #Armee in der Fähigkeit des #Tools bestehen wird, große Mengen an #Überwachungsmaterial schnell zu verarbeiten, um „Fragen zu bestimmten Personen zu beantworten“. Wenn man bedenkt, wie die Armee bereits kleinere #Sprachmodelle einsetzt, ist es wahrscheinlich, dass das LLM die #Beschuldigung und #Verhaftung von Palästinensern durch #Israel weiter ausweiten könnte.

„KI verstärkt die Macht“, erklärte eine #Geheimdienstquelle, die die Entwicklung von Sprachmodellen durch die israelische Armee in den letzten Jahren genau verfolgt hat. “Sie ermöglicht Operationen, bei denen die Daten von weitaus mehr Menschen genutzt werden, und ermöglicht so die Kontrolle der Bevölkerung. Dabei geht es nicht nur darum, Schussangriffe zu verhindern. Ich kann #Menschenrechtsaktivisten aufspüren. Ich kann den palästinensischen Bau in der Zone C [im Westjordanland] überwachen. Ich habe mehr Möglichkeiten, um zu wissen, was jede Person im #Westjordanland tut. Wenn man so viele Daten hat, kann man sie für jeden beliebigen Zweck einsetzen.“

Die Entwicklung des Tools fand zwar vor dem aktuellen #Krieg statt, aber unsere Untersuchung ergab, dass die Einheit 8200 nach dem 7. Oktober israelische #Staatsbürger mit Fachkenntnissen in der Entwicklung von Sprachmodellen um Hilfe bat, die bei #Technologiegiganten wie #Google, #Meta und #Microsoft arbeiteten. Mit der #Massenmobilisierung von #Reservisten zu Beginn des israelischen Angriffs auf #Gaza begannen Branchenexperten aus dem #Privatsektor, sich der Einheit anzuschließen – und brachten Wissen ein, das zuvor „nur einer sehr exklusiven Gruppe von Unternehmen weltweit zugänglich war“, wie eine Sicherheitsquelle angab. (Als Antwort auf unsere Anfragen gab Google an, dass es „Mitarbeiter hat, die in verschiedenen Ländern Reservedienst leisten“, und betonte, dass die Arbeit, die sie in diesem Zusammenhang leisten, „nicht mit Google in Verbindung steht“. Meta und Microsoft lehnten eine Stellungnahme ab.)

Laut einer Quelle wurde der #Chatbot der #Unit8200 mit 100 Milliarden Wörtern #Arabisch trainiert, die zum Teil durch die groß angelegte #Überwachung von Palästinensern durch das israelische #Militär gewonnen wurden – was Experten zufolge eine schwere Verletzung der palästinensischen Rechte darstellt. „Wir sprechen hier von hochpersönlichen Informationen, die von Menschen stammen, die keiner Straftat verdächtigt werden, um ein Tool zu trainieren, das später dazu beitragen könnte, einen Verdacht zu begründen“, sagte Zach #Campbell, leitender #Technologieforscher bei Human Rights Watch, gegenüber @972mag #LocalCall und dem Guardian.

(...)

Weiterlesen in der Analyse von Yuval Abraham, Jerusalem und Harry Davies vom Guardian und Sebastian Ben Daniel (John Brown)

#Cyberkrieg @palestine @israel

→ Israel developing ChatGPT-like tool that weaponizes surveillance of Palestinians
972mag.com/israeli-intelligenc

“[…] Unit 8200’s #chatbot has been trained on 100 billion words of #Arabic obtained in part through #Israel’s large-scale #surveillance of #Palestinians under the rule of its #military — which experts warn constitutes a severe violation of Palestinian #rights. “We are talking about highly personal information, taken from #people who are not suspected of any crime […]”

+972 Magazine · Israel is building a ChatGPT-like tool weaponizing surveillance of PalestiniansThe Israeli army is developing an AI language model using millions of intercepted conversations between Palestinians, accelerating incrimination and arrest.
Continued thread

»Entzauberung – ChatGPT über alles? Das gefährliche Vertrauen in vermeintlich allwissende KI:
Faktenwissen? Recherche? Das war gestern. Wer in Diskussionen glänzen will, greift auf das Wissen von Chatbots zurück. Warum das hochproblematisch und oftmals einfach falsch ist«

Seid ihr auch überrascht odet gar schokiert und rechtfertigt euch nun?!??
/ironie

🤖 derstandard.at/story/300000025

DER STANDARD · ChatGPT über alles? Das gefährliche Vertrauen in vermeintlich allwissende KIFaktenwissen? Recherche? Das war gestern. Wer in Diskussionen glänzen will, greift auf das Wissen von Chatbots zurück. Warum das hochproblematisch und oftmals einfach falsch ist
#ki#chatbot#chatgpt