KDYŽ SE VYUŽITÍ UMĚLÉ INTELIGENCE NEZDAŘÍ

Vytvořili jsme rasistickou umělou inteligenci? Genderové a rasové předsudky v umělé inteligenci

S tím, jak se používání umělé inteligence stále více normalizuje, začínají se ukazovat skvělé stránky i nedostatky jejích tvůrců, což potvrzuje, že umělá inteligence je přesně taková, jakou si ji vytvoříme.

An

Ačkoli to může znít směšně, existuje značné množství důkazů o tom, že se různé předsudky lidí začínají objevovat dokonce i ve výstupech umělé inteligence, což je problém, který pro poskytovatele překladatelských služeb není novinkou.

S postupujícím experimentováním s umělou inteligencí je stále více zřejmé, že dokonce ani ona není imunní vůči předpojatosti, především (a to je znepokojivé) co se týče rasy a genderu. Tenhle přetrvávající problém se neomezuje pouze na profesionální překlad, ale ovlivňuje i obory, jako jsou umění, design a dokonce i technika, což před nás staví řadu nepříjemných výzev.


Zrod předsudků v umělé inteligenci

Předsudky se do „překladů“ vyhotovených umělou inteligencí a vůbec do všech jejích výstupů dostávají z dat, na nichž jsou tyto modely trénovány. Algoritmy strojového učení vycházejí z rozsáhlých souborů dat, a pokud tyto soubory obsahují neobjektivní nebo kulturně necitlivý obsah (což zjevně obsahují), může umělá inteligence tyto předsudky neúmyslně přijmout za své a šířit dále.

Ještě horší je, že různé předsudky mohou vznikat i v důsledku nedostatečného zastoupení některých jazyků, dialektů či kultur ve zdrojových datech pro trénování umělé inteligence, což může vést ke zkresleným výsledkům a důsledkům v reálném světě.

Co se pokazilo?

Na tuto otázku není snadné odpovědět (ve všech možných ohledech). Jak už bylo zmíněno, vývoj „překladové“ umělé inteligence zahrnuje trénování modelů na rozsáhlých korpusech textů z internetu, knih a dalších zdrojů. Pokud tato data neúmyslně odráží existující společenské předsudky, umělá inteligence přijímá a opakuje naše stereotypy a diskriminační vzorce v mnoha různých variantách.

Laicky řečeno, umělá inteligence se učí své genderové a rasové předsudky od nás.

Také nedostatek diverzity v týmech vyvíjejících modely umělé inteligence přispívá k přehlížení potenciální diskriminace či lidí jiné barvy pleti. Jako příklad můžeme uvést nevhodnou terminologii, případy, kdy generátory obrázků nejsou schopny realisticky zobrazit ženy tmavé pleti (usmívající se nebo plačící), omyly při rozpoznávání obličeje a nedostatky technologie na rozpoznávání řeči, když není schopna pochopit povely zadané mluvčími tmavé pleti nebo lidmi, jejichž rodným jazykem není angličtina.


Co se tedy dá dělat?

O tom, že je co zlepšovat, není pochyb. Uvádíme zde tedy několik věcí, které lze udělat pro rozšíření schopností umělé inteligence:

Pravidelná spolupráce živých překladatelů s umělou inteligencí

Možná to bude znít samoúčelně, ale živí překladatelé, kteří dobře chápou kulturní kontexty, idiomy a lingvistické nuance, mohou hrát klíčovou roli při předcházení a opravování lingvistických nedostatků ještě předtím, než se tyto stanou skutečnými problémy. Na rozdíl od umělé inteligence mají lidé schopnost chápat souvislosti nad rámec zdrojového „textu“ a orientovat se i ve smyslech skrytých mezi řádky a nuancích, ve kterých by se stroje snadno ztratily.

Důležitost živých překladatelů se ještě více projevuje v citlivých oblastech, jako je právní, lékařský, IT nebo technický kontext, neboť zde jsou přesnost a kulturní citlivost nezbytností. Spolupráce živých překladatelů a umělé inteligence by byla vzájemně výhodná: překladatelé by mohli využívat umělou inteligenci k vyšší efektivitě své práce a zároveň by pomáhali zdokonalovat a vylepšovat algoritmy strojového překladu pro budoucí používání.

Diverzifikace vstupních dat pro trénování umělé inteligence

V tuto chvíli je to pravděpodobně naprosto jasné. Zajištění rozmanitosti a reprezentativnosti vstupních dat je naprosto zásadním krokem na cestě k zmírňování a odstraňování předsudků ve výstupech umělé inteligence. Je to velmi náročný úkol, ale stojí za to se o to pokusit.

Aby vývojáři uspěli, museli by aktivně vyhledávat a vkládat obsah od nedostatečně zastoupených skupin, jazyků a kultur, aby podpořili inkluzivnější a přesnější umělou inteligenci. Tato technologie by musela být nejen vyvíjena ve spolupráci s těmito nedostatečně zastoupenými skupinami, ale také by musela být s ohledem na ně rozsáhle testována, aby byla zaručena její koherence.

Vývoj etické umělé inteligence

K diverzifikaci vstupů by určitě přispělo zavedení etických směrnic pro vývoj umělé inteligence, včetně propagování transparentnosti a morální zodpovědnosti, což by jistě pomohlo různé existující předsudky identifikovat a napravit.

I zde by byla intervence živého překladatele v podobě pravidelných kontrol a vyhodnocování systémů umělé inteligence nepostradatelná. Toto vyhodnocování by neustále přidávalo výstupům umělé inteligence nádech lidskosti a vedlo by k průběžnému vylepšování a úpravám, neboť přirozený tok času nevyhnutelně přináší změny a další vývoj.

Vytvoření systému zpětné vazby od uživatelů

Většina společností ví, že spolehlivým pilířem pokroku je internalizace zpětné vazby uživatele do vlastních procesů, přístupů a metodiky. Zavedení mechanismů, které uživatelům umožní poskytovat zpětnou vazbu na funkci, překlad a limity umělé inteligence, by mohlo pomoct identifikovat a opravit předsudky, aniž by to vývojáře stálo příliš mnoho energie. Průběžné vylepšování za pomoci vstupů od uživatelů je pro zdokonalování umělé inteligence a vytváření rozsáhlých inkluzivních systémů klíčové.

Ačkoli se názory na toto téma různí, nepopiratelnou pravdou je, že než se s jakýmkoli z těchto problémů vyrovnáme a překonáme ho, musíme nejprve uznat a pochopit původ diskriminace umělé inteligence. Jakmile se nám to podaří, bude detekce chyb a provádění oprav mnohem snazší.

Umělá inteligence se může stát mocným nástrojem, který bude hrát důležitou roli v budoucnosti našeho světa, ale tento nástroj nesmí zůstat bez dozoru. V případě překladatelských služeb je dohled živého lingvisty a kvalitní řízení jedinou cestou, jak zajistit přesné, kulturně citlivé a kontextuálně zaměřené překlady a jak se postarat o budoucnost, ve které bude umělá inteligence lépe zrcadlit bohatou rozmanitost a složitost lidského světa.


NAŠE SLUŽBY

Společnost GORR nabízí komplexní řešení všech vašich jazykových potřeb:

Překlad
Ověřený překlad
Editace a korektura
Překlad a následná editace
Lokalizace
Tlumočení
Tlumočení online
Překlad softwaru
Lokalizace webových stránek
Strojový překlad a následná editace

Co číst dál?

Ztraceno v překladu: Dopad převzetí kormidla umělou inteligencí na reálný život

Nechejme to na umělé inteligenci. Co by se mohlo pokazit?

5 největších úskalí překladu vytvořeného umělou inteligencí

Umělá inteligence je zázrakem moderní doby, ale zdaleka není naprosto spolehlivá. Ve společnosti GORR ji vnímáme jako nástroj, se kterým musí pracovat zkušený odborník, aby byla využita efektivně.

Člověk vs. umělá inteligence: Posunutí hranic v překladu

S pokračujícím technologickým vývojem dochází díky integraci umělé inteligence (AI) ke značné proměně překladatelských služeb. Přestože umělá inteligence v překladu jednoznačně přináší řadu výhod, vyvolává také jisté obavy a otázky, kterými by se neměli zabývat pouze živí překladatelé.

© 2023 GORR. Všechna práva vyhrazena