fbpx
[the_ad_group id="279"]
DomůTisková zprávaSAS: Umělá inteligence může být zaujatá

SAS: Umělá inteligence může být zaujatá

Firmy, které plánují zavést umělou inteligenci (AI), musí kromě etiky a ochrany osobních údajů dbát také na standardy, které eliminují riziko škodlivých rozhodnutí. Umělá inteligence je totiž umělá technologie, která má ve své podstatě sklon k zaujatosti. A předpojatá data mohou podle analytiků společnosti SAS vést ke špatným výsledkům.

Každý den se používají mentální struktury, zjednodušené diagramy a nápady, které pomáhají organizovat realitu. Tvůrci řešení AI musí tyto podmínky vzít v úvahu, protože subjektivní interpretace dat může mít dopad na výstupní informace poskytované umělou inteligencí. Předpojatá data vedou k chybným nebo dokonce škodlivým výsledkům. Vzhledem k dynamickému rozvoji a rostoucímu využívání AI v různých sektorech ekonomiky je důležité si tato rizika uvědomovat a pracovat na jejich snižování.

SAS Institute je světovým lídrem v oblasti analytiky a AI. V současné době používá jeho řešení více než 83 000 společností a institucí ve 147 zemích, včetně 92 společností ze 100 nejlepších podle Fortune Global 500. Společnost vznikla v roce 1976 a zaměstnává 14 000 lidí. SAS Institute ČR působí v tuzemsku od roku 1992.

Chyby ve výuce strojového učení

„Strojové učení, což je oblast umělé inteligence, umožňuje vytvářet samoobslužné systémy, které se učí z poskytnutých dat. Tato technologie zpočátku využívá tréninková data, proto můžete vylepšit své analytické modely tak, aby v průběhu času představovaly stále přesnější výsledky. První informační pakety připravuje člověk, který hned na začátku rozhodne o výběru výstupních dat a směru, kterým se bude systém vyvíjet. Pokud systém přijme chybné předpoklady již v počáteční fázi vývoje modelu, budou jeho pozdější závěry také nesprávné,“ vysvětluje Petr Šlajchrt, Country Director společnosti SAS Institute pro Českou republiku.

Dodávání neúplných nebo chybných údajů do systému, které způsobí zkreslení výsledků analýzy, je pouze začátkem problému. Samoléčebná řešení dosud nebyla vyvinuta. Naopak existuje velká šance, že systém bude stále méně objektivní. Technologie, která se v současné době využívá, enormní výpočetní výkon a pokročilé algoritmy umožňují strojům činit tisíce rozhodnutí za minutu. To však bohužel znamená, že malé chyby rychle rostou a postupem času se stávají skutečnou hrozbou pro výsledky analýz. A to může vést ke špatným rozhodnutím. 

Rozmanitost v projektech AI 

Odpovědný vývoj umělé inteligence vyžaduje rozmanitost. Zadané údaje musí brát v úvahu například různé věkové, etnické nebo sociální skupiny. Již ve fázi vytváření týmů pracujících na projektech umělé inteligence by měly být tyto faktory brány v úvahu. Tento přístup umožňuje dívat se na daný problém z různých hledisek, což se promítne do větší rozmanitosti zadávaných dat. 

Nedostatečná rozmanitost již ve fázi poskytování dat systému může znamenat, že koncoví uživatelé nebudou moci používat řešení AI, například když systém nezohledňuje rozdíly mezi jednotlivými akcenty. Uživatel z Irska bude mluvit anglicky zcela odlišně od Američana. Když používá chatbota, může mít potíže se splněním pokynů. Taková zkušenost ho účinně odradí od dalších kontaktů se společností, což v širším pohledu může představovat vážnou překážku při budování dobrých zkušeností a loajality zákazníků. 

SourceTZ SAS
Veronika Říčková
Devatenáct let zkušeností v médiích (jako novinářka i jako PR managerka)...

Nejnovější

Michal Franek (UltimateSuite): Po task miningu je ve světě velký hlad, jen v USA vzrostl zájem o 97 %

Optimalizaci procesů ve firmě, zvyšování efektivity a produktivity zaměstnanců a pomoc s rozhodováním při zavádění RPA. To všechno umí task mining. Skoro nikdo ho...

Produktový manažer v Pipedrive: Nejlepší výsledky máme díky svobodě a firemní kultuře

Produktový manažer má ve vývojářské firmě obzvlášť důležitou úlohu. Často řeší konkrétní problémy, které se týkají nejdůležitější složky celého byznysu: potřeb a spokojenosti zákazníků....

Inovátoři, hlaste se! Zbývá týden do uzávěrky Hack 2 Normal hackathonu

Vylepšení zdravotní péče a byznysového prostředí po skončení pandemie. To je téma víkendového hackathonu Hack 2 Normal, který odstartuje už příští pátek 14. května. ...

Martin Felcman a Martin Matuš (Productboard): Pracujeme jako Sherlock Holmes

Jak souvisí práce produktového manažera s detektivní činností? V čem je jeho největší hodnota a kdy by se měl do vývoje nového produktu zapojit?...

Produktový manažer: Jak bych to vysvětlil své mámě?

Role, která tu byla už dávno a která dnes zažívá obrodu. Digitalizace světa vytváří potřebu vzniku nových rolí, které ale mají základy ve světě...