Az Apple az iOS 18-ban, az Apple Intelligence részeként vezette be az MI-alapú hírösszefoglaló funkciót, annak érdekében, hogy egyszerűsítse az információkhoz jutást. A funkció célja, hogy az iPhone-felhasználók könnyebben és gyorsabban átmenjenek ezeken az értesítéseken, hogy lássák, melyek azok a cikkek, amelyek tényleg érdeklik őket. Ha egy ilyet találnak, akkor a képernyőre koppintva elolvashatják az eredeti írást.

Azonban úgy tűnik, nem minden működik úgy, ahogyan azt tervezték, ugyanis az összefoglalók készítésekor valami nagyon fontossal gyűlik meg az Apple Intelligence baja, méghozzá az igazsággal. Ez pedig komoly aggályokat vet fel az MI-vezérelt hírfeldolgozás megbízhatóságával kapcsolatban.

Egy ilyen elferdített történet volt a BBC cikkének szinopszisa. Az eredeti cikkben Luigi Mangione-ről írnak, akit többek között a United Healthcare vezérigazgatójának meggyilkolásával vádolnak. Az Apple Intelligence ezek után úgy foglalta össze a cikket, mintha Mangione öngyilkos lett volna, ami nem igaz. A BBC felvette a kapcsolatot az Apple-lel, azonban ez a probléma azóta sem oldódott meg.

BBC/TUAW

Más sajtótermékek, köztük a The New York Times is hasonló problémákról számoltak be. Például az Apple Intelligence egyszer összefoglalt egy cikket, amely szerint „Netanyahut letartóztatták”, amikor az aktuális történet arról szólt, hogy a Nemzetközi Büntetőbíróság elfogatóparancsot adott ki az izraeli miniszterelnök ellen. Emellett nemrégiben az iPhone-felhasználók olvashattak egy mesterséges intelligencia által generált értesítést, amely szerint Luke Littler darts-játékos megnyerte a PDC világbajnokságot, mielőtt még a döntőben játszott volna. Egy másik, az iPhone felhasználók által látott helytelen hír, amely az MI által összefoglalt cikken alapult, tévesen azt állította, hogy a teniszsztár, Rafael Nadal „coming out”-olt.

A Riporterek Határok Nélkül (Reporters Sans Frontières, RSF) nemzetközi szervezet is panaszkodott az Apple Intelligence-re az összefoglalók szerkesztésével kapcsolatos megközelítése miatt. Az RSF, megismételve a BBC megjegyzését, kijelentette: „Egy médiumnak tulajdonított hamis információk automatizált előállítása csapást mér a csatorna hitelességére.” A múlt hónapban Vincent Berthier, az RSF technológiai és újságírási részlegének vezetője egyenesen azt állította, hogy az Apple tevékenysége „veszélyt jelent a közvélemény aktuális ügyekkel kapcsolatos megbízható információkhoz való jogára nézve”.

A probléma hátterében az úgynevezett MI-hallucinációk állnak. Ilyen hibák akkor fordulnak elő, amikor a mesterséges intelligencia félreértelmezi az adatokat vagy helytelen információkat hoz létre. A szakértők szerint a hallucinációk a hibás edzési adatokból, a tanult minták helytelen alkalmazásából erednek. Az MI-modellek időnként nem értelmezik a kontextust a pontos összefoglalók készítésekor, még akkor sem, ha a forrásanyag egyértelmű – magyarázza a TUAW. Tim Cook, az Apple vezérigazgatója korábban maga is elismerte ezt a kockázatot, bevallva, hogy az Apple Intelligence „nem éri el a 100%-os” pontosságot. Annak ellenére, hogy az Apple megpróbálja leküzdeni a hallucinációkat, beleértve az eszközön végzett mesterséges intelligencia-feldolgozást is, ezek a hibák továbbra is rávilágítanak azokra a kihívásokra, amelyek a MI újságírását kísérik.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.