Google ha annunciato che “metterà in pausa” lo strumento per la creazione di immagini del suo chatbot Gemini a causa delle feroci (e divertenti) critiche arrivate dopo che ne sono state prodotte alcune che non erano storicamente accurate, avendo come protagonisti papi donna, vichinghi afro-americani e nativi tra i Padri Fondatori che hanno firmato la Costituzione. Il software così woke e irreale è stato accolto con un coro di proteste.
Su X, ex Twitter, l’azienda tech ha pubblicato un post tentando di scusarsi: “Stiamo già lavorando per affrontare i recenti problemi con la funzione di generazione di immagini di Gemini. Intanto lo metteremo in pausa e rilasceremo presto una versione migliorata”.
Nel dettaglio, fra gli esempi c’erano anche un’immagine AI di un uomo nero che sembrava rappresentare George Washington, completo di una parrucca bianca e un’uniforme dell’esercito continentale, e un’altra di una donna del Sud-Est asiatico vestita con abbigliamento papale – a dir poco assurdo (e ovviamente provocatorio) visto che tutti i 266 pontefici nel corso della storia sono stati uomini bianchi. Tali immagini non sembrano essere semplicemente alterate, ma anzipare vogliano trasmettere messaggi specifici di natura socio-politica:
Il New York Post ha raccolto il commento di William A. Jacobson, professore di legge alla Cornell University e fondatore dell’Equal Protection Project, un gruppo di vigilanza contro le descriminazioni: “In nome dell’anti-pregiudizio, i sistemi sono stati integrati con un vero e proprio pregiudizio”.
Ma visto che Google non ha reso noti quali siano i parametri che governano il comportamento del chatbot Gemini, è difficile ottenere una spiegazione chiara sul motivo per cui il software abbia inventato tali figure ed eventi storici. Tuttavia non vi è dubbio che questa tecnologia lavori in base agli algoritmi secondo cui è stata programmata ed elabori immagini in base alle istruzioni che le vengono date dagli utenti umani.
A questo proposito Fabio Motoki, un docente dell’Università di East Anglia del Regno Unito, è stato coautore di un articolo del NYPost in cui si argomentava il notevole pregiudizio di tendenza verso una politica di sinistra nel modello di OpenAI.
