Série AI Insight | Část 2: Jak bych měl/a chodit na bohoslužby v kostele AI a jak pravidelně?
Od Davida Plummera, generálního ředitele skupiny Bluefriars Group
Ve druhém díle čtyřdílné série se David Plummer podělí o své myšlenky na téma zavádění umělé inteligence, řízení a dlouhodobé udržitelnosti pro multifunkční administrativní a finanční organizace (MGA).
Náš poslední článek jsem zakončil konstatováním, že umělá inteligence „pravděpodobně nebude jednodušší na využití než lidský kapitál ve složitých organizacích“. Existuje řada faktorů, které to ovlivňují, ale pro mě je nejvýznamnějším z nich sladění.
Sladění v distribučním řetězci
Téměř všechny pojišťovací společnosti (MGA) jsou s tímto konceptem obeznámeny z doby, kdy vyjednávaly o požadavcích na rizikový kapitál. Každá firma v řetězci distribuce pojištění musí být sladěna, aby všichni v řetězci společně vyhráli, nebo v případě ztráty všichni jednali společně, aby minimalizovali ztráty způsobem, který je spravedlivý vůči zákazníkovi. Jednoduše řečeno, každý musí mít „podíl na hře“ a pokud možno musí mít pro ně téměř stejný význam jako pro ostatní strany v distribučním řetězci.
Ve světě pojišťovnictví se to odráží v spoluúčasti, vrácení/vrácení provizí, provizích ze zisku, poplatcích za fronting, ponechání si rizik z frontingu atd., a to v celém řetězci pojištění, zajištění a retrocese.
Tyto existují, protože sladění chrání zisk všech. Také právní předpisy Spojeného království i EU činí sladění v distribučním řetězci klíčovou prioritou.
Soupeřící priority s poskytovateli umělé inteligence
Pokud se pokusíte aplikovat tato pravidla na obchodní model zprostředkovaný umělou inteligencí, rychle se ukáže, že podobná ekvivalence sladění obvykle neexistuje. V některých případech lze tvrdit, že sladění je minimální.
Je to proto, že data jsou měnou umělé inteligence a dobrá správa by měla zabránit jejich sběru bezdůvodně.
Tohle je asi největší slon v místnosti. Firmy zabývající se umělou inteligencí mají prokázanou a trvalou historii sběru dat z internetu a dalších zdrojů za účelem trénování svých rozsáhlých jazyků a dalších modelů umělé inteligence. Data jsou navíc klíčovým aktivem MGA. Pokud se MGA rozhodne krystalizovat svou investici, na prodej je distribuce a data.
Silně pochybuji o rozumné firmě zabývající se multimediálními a virtuálními záležitostmi (MGA), která by svěřila své klíčové duševní vlastnictví do rukou větší externí organizace s finančními prostředky a rozsahem, aby mohla duplikovat svůj obchodní model. Vzhledem k lidskému faktoru však pokaždé, když firma nasadí umělou inteligenci ke zvýšení efektivity, existuje riziko, že se tato umělá inteligence naučí klíčové obchodní duševní vlastnictví a procesy, zatímco se zapojí do souvisejícího úkolu, jako je například formátování tabulky nebo přepisování staršího kódu.
Jednoduše řečeno, pokud firmy zabývající se umělou inteligencí nebudou shromažďovat data a duševní vlastnictví a dále je neprodávat za účelem zisku, pak současný obchodní model umělé inteligence selhává. The Economist odhaduje, že firmy zabývající se umělou inteligencí investovaly přibližně 1,4 bilionu USD, přičemž se jim podařilo získat zpět pouze zhruba polovinu této částky.
Lze tedy tvrdit, že firmy poskytující cloudové úložiště i služby umělé inteligence mají zvrácenou motivaci k tomu, aby kolem dat, která spravují, zaváděly relativně lehké zábrany. I když je možná nespravedlivé říci, že je to záměrné, pokaždé, když dojde k nějaké události, se jejich nástroje umělé inteligence učí, což je v konečném důsledku obchodním cílem těchto firem. Příklady se již objevují, včetně přístupu umělé inteligence k obsahu důvěrných e-mailů a potenciálního dalšího šíření těchto e-mailů.
Přidejte do této směsice ještě jednu nepředvídatelnou proměnnou, a to lidskou přirozenost, a pak lze pravděpodobně s jistotou předpokládat, že pokud používáte umělou inteligenci bez pečlivé kontroly, časem se dostane k prakticky všemu, co je pro vaše podnikání důležité.
Tak jak to mám zařídit?
Samozřejmě existuje možnost se používání umělé inteligence úplně vyhnout, i když mám podezření, že jakýkoli podnik, který takovou strategii přijme, by mohl být k jejímu používání v každém případě násilně přinucen lidským chováním, a to i v případě, že jsou zavedeny a pravidelně šířeny zásady, které stanoví, že umělá inteligence nesmí být používána.
Udržitelnější přístup k umělé inteligenci musí:
• Zlepšení zarovnání
•. Být strukturován kolem silné správy dat
• Efektivně řídit lidskou přirozenost
•. Dát přednost ochraně duševního vlastnictví
•. Budujte odolnost nejen testováním procesů, ale také zajištěním struktur pro udržení kontroly a provozní kontinuity
...pak s umělou inteligencí opatrně zapojte a pouze tam, kde existuje identifikovaná potřeba a bylo provedeno vhodné posouzení rizik.
Umělou inteligenci nelze bezpečně zavést přes noc. MGA si musí věnovat čas pečlivému vyhodnocení svých dat a aktiv duševního vlastnictví a rozhodnutí, co lze a co nelze sdílet. To často vyžaduje, aby vaše stávající datové jezero bylo pečlivě kategorizováno a seřazeno a poté přejmenováno tak, aby identifikovalo typy obsahu. Výsledky tohoto procesu by nakonec měl zkontrolovat alespoň druhý pár očí, ne-li nezávisle.
I když se nestotožňuji s přístupem k poskytovatelům umělé inteligence, který je zcela založen na principu „dluhopisů“, nedávná snaha americké vlády vyvinout tlak na poskytovatele umělé inteligence Anthropic, aby zmírnil omezení kolem své technologie pro vojenské účely, naznačuje, že spoléhání se na správu třetích stran může být nerozumné.
Je velmi nepravděpodobné, že by firma zabývající se umělou inteligencí automaticky nabízela podmínky, které by zcela chránily vaše zájmy a zájmy vašich zákazníků. Proto budete muset upřesnit podmínky spolupráce s nimi.
Poslední varování
Umělá inteligence je levná a vždy na dosah ruky, protože chce vaše data, váš obchodní model a lze tvrdit, že i vaše duševní vlastnictví. Jak prozkoumáme v dalším článku, odvětví umělé inteligence chce také data vašich zákazníků a vy máte povinnost spravovat sdílení komerčních i chráněných dat s přiměřenou péčí.
Generální administrativní orgány by měly při jakékoli změně v oblasti umělé inteligence plně zohlednit skutečnost, že sladění distribučního řetězce, ochrana a umístění dat (jak vlastněných, tak i těch, která máte pod kontrolou) a odolnost jednotlivých firem jsou zakotveny v právních předpisech Spojeného království a EU.
Obrázek: Vygenerováno umělou inteligencí
Comments