fbpx
[the_ad_group id="279"]
DomůTisková zprávaSAS: Umělá inteligence může být zaujatá

SAS: Umělá inteligence může být zaujatá

Firmy, které plánují zavést umělou inteligenci (AI), musí kromě etiky a ochrany osobních údajů dbát také na standardy, které eliminují riziko škodlivých rozhodnutí. Umělá inteligence je totiž umělá technologie, která má ve své podstatě sklon k zaujatosti. A předpojatá data mohou podle analytiků společnosti SAS vést ke špatným výsledkům.

Každý den se používají mentální struktury, zjednodušené diagramy a nápady, které pomáhají organizovat realitu. Tvůrci řešení AI musí tyto podmínky vzít v úvahu, protože subjektivní interpretace dat může mít dopad na výstupní informace poskytované umělou inteligencí. Předpojatá data vedou k chybným nebo dokonce škodlivým výsledkům. Vzhledem k dynamickému rozvoji a rostoucímu využívání AI v různých sektorech ekonomiky je důležité si tato rizika uvědomovat a pracovat na jejich snižování.

SAS Institute je světovým lídrem v oblasti analytiky a AI. V současné době používá jeho řešení více než 83 000 společností a institucí ve 147 zemích, včetně 92 společností ze 100 nejlepších podle Fortune Global 500. Společnost vznikla v roce 1976 a zaměstnává 14 000 lidí. SAS Institute ČR působí v tuzemsku od roku 1992.

Chyby ve výuce strojového učení

„Strojové učení, což je oblast umělé inteligence, umožňuje vytvářet samoobslužné systémy, které se učí z poskytnutých dat. Tato technologie zpočátku využívá tréninková data, proto můžete vylepšit své analytické modely tak, aby v průběhu času představovaly stále přesnější výsledky. První informační pakety připravuje člověk, který hned na začátku rozhodne o výběru výstupních dat a směru, kterým se bude systém vyvíjet. Pokud systém přijme chybné předpoklady již v počáteční fázi vývoje modelu, budou jeho pozdější závěry také nesprávné,“ vysvětluje Petr Šlajchrt, Country Director společnosti SAS Institute pro Českou republiku.

Dodávání neúplných nebo chybných údajů do systému, které způsobí zkreslení výsledků analýzy, je pouze začátkem problému. Samoléčebná řešení dosud nebyla vyvinuta. Naopak existuje velká šance, že systém bude stále méně objektivní. Technologie, která se v současné době využívá, enormní výpočetní výkon a pokročilé algoritmy umožňují strojům činit tisíce rozhodnutí za minutu. To však bohužel znamená, že malé chyby rychle rostou a postupem času se stávají skutečnou hrozbou pro výsledky analýz. A to může vést ke špatným rozhodnutím. 

Rozmanitost v projektech AI 

Odpovědný vývoj umělé inteligence vyžaduje rozmanitost. Zadané údaje musí brát v úvahu například různé věkové, etnické nebo sociální skupiny. Již ve fázi vytváření týmů pracujících na projektech umělé inteligence by měly být tyto faktory brány v úvahu. Tento přístup umožňuje dívat se na daný problém z různých hledisek, což se promítne do větší rozmanitosti zadávaných dat. 

Nedostatečná rozmanitost již ve fázi poskytování dat systému může znamenat, že koncoví uživatelé nebudou moci používat řešení AI, například když systém nezohledňuje rozdíly mezi jednotlivými akcenty. Uživatel z Irska bude mluvit anglicky zcela odlišně od Američana. Když používá chatbota, může mít potíže se splněním pokynů. Taková zkušenost ho účinně odradí od dalších kontaktů se společností, což v širším pohledu může představovat vážnou překážku při budování dobrých zkušeností a loajality zákazníků. 

SourceTZ SAS
Veronika Říčková
Devatenáct let zkušeností v médiích (jako novinářka i jako PR managerka)...

Nejnovější

10 trendů, které budou podle Accenture určovat směr pojišťovnictví v roce 2021

Nárůst významu lékařské a wellness péče, digitální transformace pojišťoven, speciální produkty ušité klientům na míru, udržitelný rozvoj i důvěra v tradiční velké pojistitele. To je...

CFO plánují zvyšovat svoje digitální investice

Cloudové ERP, pokročilá analytika a datové technologie či RPA jsou oblastmi, do nichž chtějí během příštích čtyř let investovat finanční a ekonomická oddělení podniků. Odhalil...

Gartner: Výdaje na IT v roce 2021 opět porostou

Pouze dvě země zaznamenaly v minulém roce růst výdajů na IT: Čína a Jižní Korea. Zbytek světa postihl podle serveru INSIDE pokles přibližně o 2,5 %...

S rychlým doručením dvojnásobná útrata. Super zoo a DoDo ukazují, že online prodej s kvalitní logistikou se vyplácí

Nákupní chování Čechů se během uplynulého roku výrazně změnilo. Mnohem více nakupují online a roste i výše jejich objednávek. Ukazuje se, že jednou z...

Pandemie koronaviru změnila e-shopy: Nároční zákazníci tam tráví daleko více času. E-shopy potřebují zásadní investice

Na jednu stranu přesvědčení, že zákazníci budou přicházet sami i po uvolnění restrikcí v retailu a že výdělky budou vyšší než loni. Na straně...