Gemini, het AI-model van Google, zal voorlopig geen afbeeldingen van mensen genereren nadat bleek dat er fouten waren opgetreden bij het maken van foto’s van mensen met een specifiek ras. De AI wilde te divers zijn, wat resulteerde in problemen.
Waarom is dit belangrijk? Veel techbedrijven proberen mee te liften op de huidige hype rond artificiële intelligentie. Echter, sommige bedrijven gaan hierbij te snel. Recent kreeg Microsoft klachten over zijn AI-bot Copilot en ook Google’s Gemini functioneert nog niet op het niveau van ChatGPT.
In het nieuws: Google onderzoekt hoe het betere afbeeldingen van mensen kan genereren.
Gemini was getraind om diversiteit voorop te stellen om stereotypes te doorbreken. Helaas bleek de aanpak te ver te gaan. Zo leverde een zoekopdracht naar “een Amerikaanse senator uit 1800” afbeeldingen op van zwarte vrouwen en Native Americans. Een verzoek om een Duitse soldaat uit 1943 te creëren, resulteerde in een zwarte man en een Aziatische vrouw. Dit leidde tot complottheorieën dat Gemini niet in staat was om witte mensen te genereren, zelfs de Amerikaanse Founding Fathers werden als zwart afgebeeld.
Google heeft excuses aangeboden voor het incident maar gaat nu een stap verder. De functie om mensen te genereren met Gemini wordt voorlopig offline gehaald. Het bedrijf werkt aan het aanpakken van recente problemen met de beeldgeneratiefunctie van Gemini en zal binnenkort een verbeterde versie uitbrengen.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Vorige week lanceerde Google het geüpdatete model Gemini 1.5 Pro, maar dat blijkt nog niet helemaal op punt te staan. Het bedrijf is iets te snel geweest wat betreft de AI-generatie van afbeeldingen.
Voorlopig krijgt men de volgende boodschap te lezen wanneer men probeert mensen te genereren: “We werken eraan om de capaciteit van Gemini te verbeteren voor het genereren van afbeeldingen van mensen. We verwachten dat deze functie binnenkort terugkeert en zullen u op de hoogte stellen in de release-updates wanneer dit het geval is.”
