Badania Michaela Lonesa, profesora na Uniwersytecie Heriot-Watt, ostrzegają, że włączenie generatywnej sztucznej inteligencji do systemów uczenia maszynowego może znacznie zwiększyć ryzyko, takie jak cyberataki i naruszenia danych, a jednocześnie utrwalić uprzedzenia wobec niedostatecznie reprezentowanych grup.
Badanie opublikowane w czasopiśmie Patterns opisuje niezamierzone szkody związane z generatywną sztuczną inteligencją pomimo jej potencjalnych korzyści w zakresie kosztów i wydajności. Lones podkreśla konieczność zrównoważenia przez programistów ulepszeń możliwości z możliwymi zagrożeniami.
Lones stwierdził: „Programiści zajmujący się uczeniem maszynowym muszą być świadomi zagrożeń związanych z wykorzystaniem sztucznej inteligencji generacji w uczeniu maszynowym i znaleźć rozsądną równowagę między poprawą możliwości a ryzykiem, jakie może się z tym wiązać”. Przestrzegł, że samo istnienie możliwości nie oznacza, że należy ją wykorzystać.
Generatywna sztuczna inteligencja jest coraz częściej wykorzystywana w różnych sektorach do projektowania, budowania i obsługi systemów uczenia maszynowego. Lones zidentyfikował w tym kontekście cztery główne zastosowania generatywnej sztucznej inteligencji: jako komponenty potoków uczenia maszynowego, do projektowania i kodowania tych potoków, syntezy danych szkoleniowych i analizowania wyników. Jednak każde zastosowanie niesie ze sobą nieodłączne ryzyko.
Zauważył, że wykorzystanie dużych modeli językowych (LLM) do wielu zadań lub w autonomicznych rolach zwiększa to ryzyko. W przypadku LLM mogą pojawić się nieścisłości i sfabrykowane informacje, co komplikuje ocenę ich działania. Lones zwrócił uwagę na wyzwania, jakie stwarza nieprzejrzysta działalność LLM, szczególnie w sektorach takich jak medycyna i finanse, które wymagają niezawodnego i zrozumiałego podejmowania decyzji.
Jak wyjaśnił Lones: „W takich dziedzinach jak medycyna czy finanse istnieją przepisy dotyczące możliwości wykazania, że system uczenia maszynowego jest niezawodny i że można wyjaśnić, w jaki sposób podejmuje on decyzje. Gdy tylko zaczniesz korzystać z LLM, staje się to naprawdę trudne, ponieważ są one zbyt nieprzejrzyste”. Ostrzegł, że chociaż firmy mogą wykorzystywać generatywną sztuczną inteligencję do ulepszania doświadczeń użytkowników i obniżania kosztów, takie wdrożenia mogą prowadzić do negatywnych skutków, w tym stronniczości i nieuczciwości.
