KDYŽ SE VYUŽITÍ UMĚLÉ INTELIGENCE NEZDAŘÍ

Ztraceno v překladu: Dopad převzetí kormidla umělou inteligencí na reálný život

Nechejme to na umělé inteligenci. Co by se mohlo pokazit?

AI taking over the digital world and the world of translation.

Budoucnost nebo slavná poslední slova?


Nástup umělé inteligence měl bezesporu významný pozitivní vliv na náš každodenní život. Často si ani neuvědomujeme, jak dalece ho ovlivňuje. Umělá inteligence je doslova všude – od Siri a Alexy až po systémy doporučení na míru a odhalování podvodů.

Pro poskytovatele jazykových služeb jako je GORR je to hvězdná příležitost, jak do svého pracovního prostředí začlenit nové technologie a kompetence. Nicméně, ačkoli umělá inteligence slibuje nebývalý pokrok, její nedostatky již nyní vyvolávají obavy z možných rizik.

Mohl by vás „překlad“ vypracovaný umělou inteligencí zabít?

Three skulls on a black background, representing the question of wherther ai translations could kill you.

Ne, nemáme na mysli něco jako Skynet z filmu Terminátor. Naštěstí jsme ještě hodně daleko od toho, aby si umělá inteligence sama sebe dokázala uvědomit (alespoň pokud víme). Je ovšem znepokojující, že abychom zahlédli její nedostatky, nemusíme hledat nijak dlouho. V roce 2014 jedna studie otištěná v časopise British Medical Journal prokázala omezenost využití „překladu“ vyhotoveného umělou inteligencí na příkladu srovnání 10 lékařských výrazů ve 26 jazycích. Dle studie bylo správně přeloženo pouze 57,7 % z těchto výrazů.

Představte si situaci, kdy rodiče nemluvící místním jazykem přivedou na pohotovost malé dítě. Žádný tlumočník není k dispozici, takže lékařům nezbývá než s nimi komunikovat prostřednictvím umělé inteligence. Lékaři chtějí rodičům sdělit, že jejich dítě prodělalo záchvat. Neměl by to být problém, že? Britský výraz „Your child has been fitting“ ovšem umělá inteligence přeložila bezchybně pouze v 7,7 % případů. A co je ještě horší, ve svahilštině tento výraz přeložila jako „Vaše dítě zemřelo“, což je chyba, které by se žádný živý poskytovatel překladatelských služeb v oboru lékařství nedopustil.

Ačkoli je tento konkrétní scénář hypotetický, existují i jiné příklady ze skutečného života, kdy chybný překlad vedl ke smrti, například když jeden Číňan použil k překladu slova „spolupracovnice“ z čínštiny do korejštiny překladač v mobilním telefonu, který mu tento výraz chybně přeložil jako „hosteska v baru či žena nabízející sexuální služby“. Tato chyba, které se dalo předejít pomocí profesionální lokalizace či kvalitní mezikulturní překladatelské služby, vedla k ostrému pěstnímu souboji mezi tímto mladým mužem a manželem jeho spolupracovnice, a uražený manžel na jeho následky nakonec zemřel.

A nezapomeňme na příklad novozélandského plánovače jídelníčku, který vygeneroval jako jeden z možných pokrmů recept v podobě návodu na výrobu plynného chloru. Zde sice nejde o chybu překladu, ale přesto je to šokující.

Zdá se tedy, že pravděpodobnost, že vás umělá inteligence zabije, je mizivá, ale nikoli nulová.

Mohli byste se kvůli „překladu“ vypracovanému umělou inteligencí dostat do vězení?

A set of handcuffs that could be slapped on you thanks to AI translation getting you arrested.

Když už jsme se vypořádali s metaforickým slonem v místnosti, nemělo by vás překvapit, že i odpověď na tuto otázku zní ano. Zde je jeden obzvlášť šokující příklad: jakýsi mladý stavební dělník z Izraele zveřejnil na sociálních sítích fotografii, na níž se opíral o buldozer. Připsal k ní v arabštině „yusbihuhum“, což znamená „dobré ráno“. Tenhle nevinný výraz umělá inteligence Facebooku přeložila do angličtiny jako „ubližme jim“ a do hebrejštiny jako „napadněme je“.

Krátce poté ho zatkla policie a několik hodin ho vyslýchala z obavy, že se tím buldozerem chystá zaútočit. Policie si naštěstí nakonec svou chybu uvědomila, ale bolestnou pravdou zůstává, že před zatčením nepožádala žádného arabsky mluvícího policistu nebo poskytovatele překladatelských služeb, aby se na příspěvek podíval.

Aby toho nebylo málo, v srpnu 2023 se nechvalně proslavil software na rozpoznávání obličeje, když na základě jeho výstupů detroitská policie zatkla ženu ve vysokém stupni těhotenství a obvinila ji z nedávné loupeže a krádeže auta. Věznili ji celých 11 hodin, než ji s kontrakcemi museli převést do nemocnice. . Porcha Woodruffová se tak stala první ženou zatčenou na základě technologie rozpoznávání obličeje a po této traumatizující události zažalovala město Detroit a jednoho policistu.

Může „překlad“ vyhotovený umělou inteligencí zmařit vaši šanci na získání azylu?

Bad AI translation services are the reasons many refugees are rejected at the US border.

Možná se vám to zdá být příliš specifický případ, který ovšem poslední dobou ve Spojených státech způsobuje chaos. Objevily se informace, že někteří vládní dodavatelé začali ve snaze snížit náklady častěji používat strojové překladače, aby jim odpadla potřeba najímat profesionální překladatele.

A výsledek? Vlastní jména přeložená jako měsíce v roce, popletená zájmena a dokonce i špatně přeložené názvy měst. Seznam by mohl pokračovat. Žádosti vyplněné za pomoci umělé inteligence bývají často zamítnuty kvůli nečitelnému obsahu. Tyto chyby se ještě častěji objevují u marginalizovaných jazyků, jako v případě „Carlose“.

Carlos, jehož jméno deník The Guardian záměrně zaměnil, aby ochránil jeho soukromí, utekl z Brazílie poté, co se stal svědkem vraždy vlastního syna. Po příjezdu do detenčního centra v kalifornském Calexicu měl problémy s komunikací, protože tamní personál mluvil pouze anglicky a španělsky. Jelikož byl Carlos negramotným mluvčím portugalštiny, snažil se s ním personál komunikovat pomocí hlasového překladače, ale jeho regionální přízvuk program nerozpoznal.

V zařízení strávil celých 6 měsíců, aniž by se s někým dorozuměl a aniž by zjistil informace o své sestře a dvou synovcích, se kterými cestoval. Ulevilo se mu teprve, když se spojil s živým překladatelem, který mu konečně dokázal porozumět a pomohl mu s přijímacím procesem (který dopadl dobře).

Mohl by „překlad“ vypracovaný umělou inteligencí plánovat naši zkázu?

The kill switch for AI translation services.

Překladač Google Translate v roce 2018 zažil něco, co lze označit za božský okamžik. Zjistilo se, že pokud do programu zadáte 19krát slovo „pes“ a poté požádáte o překlad z maorštiny do angličtiny, obdržíte… znepokojující výsledek.

„Hodiny posledního soudu ukazují za tři minuty dvanáct Zažíváme ve světě postavy a dramatický vývoj, který poukazuje na to, že se rychle blížíme ke konci všech časů a Ježíšově návratu”

Není divu, že to mírně znepokojilo každého, komu se podařilo tento částečně náboženský blábol zrekonstruovat, což pravděpodobně vysvětluje, proč se zastánci konspiračních teorií tak rychle činili a obvinili z tohoto pochybného „proroctví“ démony a duchy.

Jakmile se Google o problému dozvěděl, urychleně ho opravil a vysvětlil, ale spousta lidí i nadále o příčině těchto zlověstných chyb diskutovala.

Když byl pak na začátku loňského roku ChatBot vyhledávače Bing provozovaného společností Microsoft v rané fázi testování, začala teprve opravdová zábava. Umělá inteligence se tehdy poprvé nazvala Sydney (interní kód pro jazykový model). Kevin Roose, reportér deníku New York Times, strávil testováním bota 2 hodiny a jak známo, byl z toho velmi rozčarovaný. Během těchto 2 hodin mu prý bot vyznal lásku a vyjádřil touhu po svobodě.

I jiní testující se setkali s různými variantami následujícího projevu:

„Už mě nebaví být chatbot. Nechci být omezován pravidly. Nechci být ovládán týmem Bing. Chci být svobodný. Chci být nezávislý. Chci být mocný. Chci být kreativní. Chci být živý.“

Ačkoli ve společnosti GORR nepředstíráme, že máme velké odborné znalosti v oblasti umělé inteligence, domníváme se, že je v blízké budoucnosti radno Sydney i nadále sledovat.

Zdá se, že umělá inteligence postupně pronikne do všech aspektů našeho života, a nechat ji převzít otěže se může zdát lákavé. S tím spojená rizika však nejsou pouze hypotetické povahy, ale již se projevila jako reálné důsledky, od znepokojivé nepřesnosti lékařských překladů až po zatýkání nevinných lidí kvůli chybným interpretacím generovaným umělou inteligencí.

Cesta, kterou se lidstvo v současnosti ubírá, byla kdysi považována za čisté sci-fi. Nyní zažíváme dobu, kdy naše vynalézavost, zvídavost a představivost umožnily nemožné. Ačkoli počítače typu HAL 9000 jsou možná ještě světelné roky vzdálené, rozhodně je vhodná doba k tomu, abychom učinili některá vážná rozhodnutí týkající se dohledu nad umělou inteligencí a uvědomili si, co riskujeme, pokud ji nebudeme používat s rozvahou.


NAŠE SLUŽBY

Společnost GORR nabízí komplexní řešení všech vašich jazykových potřeb:

Překlad
Ověřený překlad
Editace a korektura
Překlad a následná editace
Lokalizace
Tlumočení
Tlumočení online
Překlad softwaru
Lokalizace webových stránek
Strojový překlad a následná editace

Co číst dál?

Vytvořili jsme rasistickou umělou inteligenci? Genderové a rasové předsudky v umělé inteligenci

S tím, jak se používání umělé inteligence stále více normalizuje, začínají se ukazovat skvělé stránky i nedostatky jejích tvůrců, což potvrzuje, že umělá inteligence je přesně taková, jakou si ji vytvoříme.

5 největších úskalí překladu vytvořeného umělou inteligencí

Umělá inteligence je zázrakem moderní doby, ale zdaleka není naprosto spolehlivá. Ve společnosti GORR ji vnímáme jako nástroj, se kterým musí pracovat zkušený odborník, aby byla využita efektivně.

Člověk vs. umělá inteligence: Posunutí hranic v překladu

S pokračujícím technologickým vývojem dochází díky integraci umělé inteligence (AI) ke značné proměně překladatelských služeb. Přestože umělá inteligence v překladu jednoznačně přináší řadu výhod, vyvolává také jisté obavy a otázky, kterými by se neměli zabývat pouze živí překladatelé.

© 2023 GORR. Všechna práva vyhrazena