A gép már megírja a kódot, de a felelősséget nem vállalja helyettünk – az SZTE docense a szoftverfejlesztés új korszakáról
A mesterséges intelligencia néhány év alatt alapjaiban változtatta meg a szoftverfejlesztést: ma már nemcsak kódrészleteket generál, hanem komplett alkalmazásokat épít, tesztel és különböző eszközöket is összehangol. Dr. Bilicki Vilmos, a Szegedi Tudományegyetem Szoftverfejlesztés Tanszékének egyetemi docense szerint emiatt nem a programozók eltűnésére kell készülni, hanem a szakma átalakulására. A jövő fejlesztője egyre kevésbé kódoló, egyre inkább mérnök lesz: feladata a megfelelő kontextus megadása, az MI által készített megoldások ellenőrzése és annak eldöntése, hogy egy működő prototípusból mikor válhat biztonságosan használható rendszer. Ez a kérdés különösen fontos az egészségügyben, ahol egy algoritmus pontossága önmagában nem elegendő, a megbízhatóságot és a felelősséget is garantálni kell.
A GÉP MÁR NEM CSAK SEGÍT, HANEM FEJLESZT
Dr. Bilicki Vilmos szerint ma már számos olyan feladat létezik, amelyhez korábban programozói tudás kellett, ma viszont egy megfelelően irányított MI-rendszer is képes elvégezni. Egy egyszerűbb alkalmazás létrehozásához elegendő lehet pontosan meghatározni az elvárásokat: a gép felhasználói felületet tervez, háttérrendszert épít, adatokat elemez, sőt teszteket is készít.
Az MI ráadásul nem egyetlen feladatot végez, hanem különböző eszközöket is képes összehangolni. Emiatt a fejlesztő munkája egyre kevésbé a kód begépeléséről, és egyre inkább a folyamat irányításáról szól.
A PROGRAMOZÓBÓL SZOFTVERMÉRNÖK LESZ
A kutató szerint nem a szakma tűnik el, hanem annak hagyományos formája. Az a programozó kerül nehezebb helyzetbe, aki kizárólag kódírással foglalkozik, miközben felértékelődik azok szerepe, akik átlátják a teljes rendszert.
Ehhez egy új szemléletre is szükség van, amelyet a szakirodalom kontextusmérnökségnek nevez. Mivel a nagy nyelvi modellek nem ismerik egy vállalat teljes szoftverrendszerét, a mérnök feladata, hogy a megfelelő háttérinformációkat átadja nekik. Nem a teljes kódbázist kell megmutatni a gépnek, hanem azt a tudást, amelyre az adott feladat megoldásához szüksége van.
A KÓDOT NEM ELÉG LEGYÁRTANI, ÉRTENI IS KELL
Bár az MI egyre jobb fejlesztőeszköz, a szakember szerint továbbra sem lehet feketedobozként kezelni. A jövő fejlesztőinek ugyanúgy érteniük kell a kód működését, még akkor is, ha annak jelentős részét már nem ők írják.
A hangsúly egyre inkább a specifikáción, az ellenőrzésen és a tesztelésen lesz. Nem az lesz a legfontosabb készség, hogy valaki milyen gyorsan ír programkódot, hanem hogy felismerje a hibákat, megértse a rendszer működését és felelősen tudja integrálni az MI által készített megoldásokat.
A FEKETEDOBOZ-PROBLÉMA TOVÁBBRA IS LÉTEZIK
A kutató szerint az MI-rendszerek egyik legnagyobb kihívása, hogy gyakran nehéz pontosan megérteni, milyen logika alapján jutnak el egy döntéshez. Egy modell akár kiváló eredményeket is produkálhat úgy, hogy valójában nem a megfelelő mintázatokat tanulta meg.
Erre számos ismert példa létezik az orvosi képfeldolgozásban. Előfordult, hogy egy bőrrák-felismerő algoritmus nem magát az elváltozást, hanem egy, a beteg képeken rendszeresen megjelenő vonalzót használta döntési szempontként. Más esetekben pedig a rendszer nem a betegséget, hanem magát a beteget ismerte fel.
A szakember szerint éppen ezért különösen fontos a megfelelő tesztelés és az adatok gondos ellenőrzése, mert a látványosan jó eredmények mögött is rejtőzhetnek hibák.
AZ EGÉSZSÉGÜGYBEN MÉG NAGYOBB A TÉT
Az orvosi alkalmazások jól mutatják, miért nem elegendő önmagában egy működő algoritmus. Míg egy hagyományos szoftvernél sokszor elegendő, hogy a rendszer megfelelően teljesítsen, addig egy diagnosztikai vagy betegkövető alkalmazás esetében a döntések következményei közvetlenül embereket érintenek.
Dr. Bilicki Vilmos szerint a mesterséges intelligencia bizonyos területeken akár több információt is képes feldolgozni, mint egy emberi szakember, de a döntések mögötti felelősség, az ellenőrzés és a betegellátás kontextusának megértése továbbra is emberi feladat marad.
A SZABÁLYOZÁS NEM TUD LÉPÉST TARTANI A FEJLŐDÉSSEL
A kutató több olyan fejlesztésen is dolgozott, amelyek a stresszállapot mérését vagy bizonyos mentális betegségek korai felismerését segíthetik. Ezek a rendszerek ígéretes eredményeket mutattak, a gyakorlati alkalmazásig azonban hosszú út vezet.
Az orvostechnikai tanúsítás éveket vehet igénybe, és jelentős költségekkel jár. Miközben a mesterséges intelligencia néhány hónap alatt új generációs modellekkel lép előre, a szabályozási folyamatok sokkal lassabban mozognak. Emiatt gyakran nem maga a fejlesztés jelenti a legnagyobb akadályt, hanem az, hogy egy működő prototípusból ellenőrizhető, tanúsítható és széles körben alkalmazható rendszer váljon.
A kutató szerint a mesterséges intelligencia fejlődésével nem csökken, hanem nő az emberi felelősség. A gép egyre több feladatot képes elvégezni, de annak eldöntése továbbra is mérnöki és emberi feladat marad, hogy a létrejövő rendszer valóban megbízható-e.
A cikk forrása: SZTE
Fotók: Bartha Karina / SZTE
