A mesterséges intelligencia és az irányításának problémája
A Human Compatible (2019) elmagyarázza, miért lehet egy szuperintelligens mesterséges intelligencia létrehozása az emberiség utolsó tette. A könv felhívja a figyelmet arra a potenciális katasztrófára, amely felé az emberiség tart, és megvitatják, mit kell tenni annak elkerülése érdekében. Ha biztosítani akarjuk, hogy a mesterséges intelligencia hosszú távon is hasznos maradjon az emberek számára, akkor lehet, hogy radikálisan újra kell gondolnunk a tervezését.
A szerzőről
Stuart Russell a Kaliforniai Egyetem (Berkeley) informatika professzora. Vezető AI-kutatóként Russell a Világgazdasági Fórum AI- és Robotikai Tanácsának alelnöke, valamint az ENSZ fegyverzetellenőrzési tanácsadója volt. Társszerzője a mesterséges intelligencia meghatározó és világszerte elismert szakkönyvének, a Mesterséges intelligencia címűnek: A Modern megközelítés (1994) – amely a mesterséges intelligencia első számú bestseller tankönyve, és a világ 128 országának több mint 1400 egyetemén használják.
Újragondolni a mesterséges intelligenciával kapcsolatos alapvető feltételezéseket.
A mesterséges intelligencia lesz a jövő meghatározó technológiája. A mesterséges intelligencia már most is gyorsan áthatja a társadalom minden szintjét: az egyének szándékosan behozzák a mesterséges intelligenciát az otthonukba, hogy segítsen nekik megszervezni a mindennapi életüket, a városi tanácsok és a vállalatok mesterséges intelligenciát alkalmaznak szolgáltatásaik optimalizálására, az államok pedig kihasználják a mesterséges intelligencia előnyeit, hogy nagyszabású megfigyelési és társadalmi mérnöki kampányokat folytassanak. Ahogy azonban a mesterséges intelligencia egyre intelligensebbé válik – és társadalmi rendszereink egyre inkább függnek tőle -, úgy válik egyre fenyegetőbbé az irányíthatatlan mesterséges intelligencia jelentette veszély.
Az új technológiák kockázatai és árnyoldalai túl gyakran maradnak felderítetlenül, miközben a tudósok és mérnökök a jövő utópiáinak megvalósítására irányuló lázas törekvéseikre összpontosítanak. Sőt, sok AI-szakértő és vállalati vezető még a szigorúbb szabályozástól való félelem miatt is lekicsinyli az AI kockázatait.
Ez a könyv ezt az egyensúlytalanságot próbálják orvosolni. Az a kérdés, hogy miként lehet az AI-t szabályozni és a katasztrofálisabb következményeit enyhíteni, a legnagyobb kérdés, amellyel az emberiség ma szembenéz, és pontosan ezt a kérdést fogjuk megvizsgálni.
Megtudhatod, hogy
- hogyan viszonyulnak a mai szuperszámítógépek az emberi agyhoz;
- mit taníthat nekünk egy legendás ősi király a modern mesterséges intelligenciáról; és
- miért teszi az automatizált fegyvertechnológia mindenki életét bizonytalanabbá.
Több áttörésre van szükségünk a szoftverek terén, mielőtt a mesterséges intelligencia felülmúlja az emberi intelligenciát.
A mai számítógépek elképesztő sebességgel képesek feldolgozni az információkat. De már az 1950-es években is úgy reklámozták a számítógépeket, mint szuperagyakat, amelyek “gyorsabbak Einsteinnél”.
Persze akkoriban a számítógépeknek semmi közük nem volt az emberi agyhoz. De mi mégis összehasonlítottuk a kettőt. Valójában a számítástechnika kezdeteitől fogva a számítógépes intelligenciát – és a fejlődést – az emberi intelligenciához mérjük.
És mi a helyzet a mai számítógépekkel? Néhányan közülük bizonyára meg tudnak mérni minket?
A legfontosabb üzenet a következő: Több áttörésre van szükségünk a szoftverek terén, mielőtt a mesterséges intelligencia felülmúlja az emberi intelligenciát.
A világ leggyorsabb számítógépe ma a Summit Machine, amely az amerikai Oak Ridge Nemzeti Laboratóriumban található. A világ első kereskedelmi számítógépéhez, a Ferranti Mark 1-hez képest a Summit Machine 1000 trilliószor gyorsabb és 250 trilliószor több memóriával rendelkezik. Ez rengeteg nulla.
A nyers számítási teljesítményt tekintve a Summit Machine valójában valamivel meghaladja az emberi agyat, bár ehhez egy raktárnyi hardverre és egymilliószor több energiára van szükség.
Még így is lenyűgöző. De mondhatjuk-e, hogy a mai szuperszámítógépek – beleértve a Summit Machine-t is – olyan erősek, mint az emberi agy? A válasz határozottan nem.
Persze, ezek a számítógépek lenyűgöző hardverrel rendelkeznek, ami lehetővé teszi, hogy algoritmusaik gyorsabban működjenek és több információt dolgozzanak fel. De az intelligencia sokkal többről szól, mint a feldolgozási sebességről.
Az intelligencia tervezésének igazi problémája a szoftverben rejlik. Jelenleg még mindig több jelentős koncepcionális áttörésre van szükségünk a mesterséges intelligencia szoftverek terén, mielőtt bármi olyasmit látnánk, ami az emberi szintű mesterséges intelligenciához hasonlít.
A legfontosabb áttörés, amire szükségünk van, a nyelv megértése. A mai intelligens beszédfelismerő mesterséges intelligenciák többsége konzervválaszokon alapul, és nehezen értelmezi a jelentés árnyalatait. Ezért vannak olyan történetek, amikor az okostelefonos személyi asszisztensek a “hívjon mentőt” kérésre azt válaszolják, hogy “oké, mostantól Ann Mentőknek-nek hívom”. A valóban intelligens mesterséges intelligenciának nem csak az elhangzott szavak, hanem a szövegkörnyezet és a hangnem alapján is értelmeznie kell a jelentést.
Soha nem tudjuk megmondani, hogy a koncepcionális áttörés mikor fog bekövetkezni. Egy dolog azonban biztos: nem szabad alábecsülnünk az emberi találékonyságot.
Gondoljunk csak a következő példára. 1933-ban a kiváló atomfizikus, Ernest Rutherford egy ünnepi beszédében bejelentette, hogy az atomenergia hasznosítása lehetetlen. Már másnap a magyar fizikus, Szilárd Leó felvázolta a neutronok által kiváltott nukleáris láncreakciót, lényegében megoldva a problémát.
Még nem tudjuk, hogy a szuperintelligencia – az emberi képességeket meghaladó intelligencia – hamarosan, később vagy egyáltalán nem fog-e megjelenni. De ettől még bölcs dolog elővigyázatosnak lenni, akárcsak a nukleáris technológia tervezésekor.
Az intelligencia téves felfogása alapján működtünk.
Ha nem bánunk óvatosan a mesterséges intelligenciával, úgy járhatunk, mint a gorilla.
Gondoljunk csak arra, hogy az ember okozta élőhelyvesztésnek köszönhetően ma már minden gorillafaj súlyosan veszélyeztetett. Persze az elmúlt évtizedekben a természetvédelmi erőfeszítések sikeresen visszahoztak néhány fajt a kihalás széléről. De hogy a gorillák száma csökken vagy gyarapszik, a sorsuk nagyrészt az emberek szeszélyeitől függ.
Aggodalomra ad okot, hogy egy szuperintelligens mesterséges intelligencia által irányított világban mi is hasonló helyzetbe kerülnénk, mint a gorillák. Vajon az ember meg tudja-e őrizni a felsőbbrendűségét és autonómiáját egy olyan világban, ahol az intelligensebb lényekkel szemben a második helyre szorul?
Szerencsére van egy fontos különbség köztünk és a gorillák között: mi tervezzük ezt az új intelligenciát. Rendkívül fontos, hogy nagyon óvatosan tervezzük meg az intelligens mesterséges intelligenciát, ha biztosítani akarjuk, hogy a mi irányításunk alatt maradjon. De van egy döntő problémánk.
A legfontosabb üzenet a következő: Az intelligencia téves felfogása alapján működtünk.
A mesterséges intelligencia tervezésének jelenlegi paradigmája szerint a mesterséges intelligencia intelligenciáját egyszerűen azzal mérik, hogy mennyire jól képes elérni egy előre megadott célt. Ennek a megközelítésnek az a nagy hibája, hogy rendkívül nehéz olyan célokat meghatározni, amelyek arra késztetik az AI-t, hogy úgy viselkedjen, ahogyan szeretnénk. Nagyjából bármilyen cél, amit kitalálunk, kiszámíthatatlan és potenciálisan nagyon káros viselkedést eredményezhet.
Ezt a problémát Midász király problémájaként ismerjük, amely a mesebeli királyról kapta a nevét, aki azt kívánta, hogy minden, amihez hozzáér, arannyá váljon. Azt azonban nem tudta, hogy ebbe beletartozik az általa elfogyasztott étel, sőt még a saját családtagjai is. Ez az ősi mese tökéletes példája annak, hogy egy rosszul meghatározott cél a végén több veszekedést okozhat, mint amennyi hasznot hoz.
A kiszámíthatatlan viselkedésből eredő veszély egyre nagyobb, ahogy a mesterséges intelligencia egyre intelligensebbé válik, és egyre nagyobb hatalommal bír. A következmények akár egzisztenciális fenyegetést is jelenthetnek az emberiségre nézve. Például megkérhetnénk egy szuperintelligens mesterséges intelligenciát, hogy találja meg a rák ellenszerét, de aztán elkezdene rákot okozni az embereknek, hogy kísérleteket végezzen rajtuk.
Talán elgondolkodik: ha nem vagyunk elégedettek azzal, amit egy mesterséges intelligencia csinál, miért nem kapcsoljuk ki azt az átkozott izét?
Sajnos a célok túlnyomó többségénél egy mesterséges intelligenciát ösztönözne arra, hogy ne engedje magát kikapcsolni. Ez azért van, mert a kikapcsolás veszélyeztetné a célját. Még az olyan látszólag egyszerű célok, mint a “főzz egy kávét” is arra késztetnének egy mesterséges intelligenciát, hogy megakadályozza a kikapcsolást.
Végül is, nem tudsz kávét főzni, ha halott vagy.
Az intelligens gépek helyett inkább hasznos gépeket kellene terveznünk.
Eddig az AI-kutatók mantrája az volt: minél intelligensebb, annál jobb. De vajon tényleg ezt kellene zengeniük?
Ahogy az imént láttuk, egy meggondolatlanul kitűzött céllal rendelkező mesterséges intelligencia a végén nagyon káros viselkedést tanúsíthat. És az sem vigasztal, ha a mesterséges intelligencia intelligens módon követ el káros viselkedést – ha valami, akkor még rosszabbá teszi azt.
Más mantrára van szükségünk. Olyan mesterséges intelligenciát kell létrehozni, amely az emberi célokhoz igazodik, bármi történjék is. Az új mantrának így kellene szólnia: minél hasznosabb, annál jobb.
A legfontosabb üzenet a következő: Ahelyett, hogy csak intelligens gépeket terveznénk, hasznos gépeket kellene terveznünk.
Három alapelvet kell követniük a tervezőknek, ha hasznos mesterséges intelligenciát akarnak létrehozni.
Az első alapelv az, hogy a mesterséges intelligenciának csak egyetlen célja lehet, mégpedig az emberi preferenciák maximális kielégítése. A szerző ezt altruizmus elvének nevezi. Ez biztosítja, hogy a mesterséges intelligencia mindig az emberi preferenciákat helyezze a sajátjai fölé.
A második alapelv az, hogy az AI-nak kezdetben bizonytalannak kell lennie azzal kapcsolatban, hogy mik ezek a preferenciák. Ez az alázatosság elve. Ennek lényege, hogy egy bizonytalan mesterséges intelligencia soha nem fog egyetlen célhoz ragaszkodni, hanem az új információk beérkezésekor változtatja a fókuszt.
A bizonytalan AI rendszerek óvatosabbak lennének, és nagyobb valószínűséggel hagynák magukat az emberre. Mivel a mesterséges intelligencia bizonytalan, folyamatosan keresni fogja a tisztázó információkat. Ez azt jelenti, hogy gyakran kér engedélyt, visszajelzést kér, és akár próbafuttatásokat is végezhet, hogy tesztelje az emberi reakciókat.
És ami döntő fontosságú, a bizonytalan mesterséges intelligenciák megengedik, hogy kikapcsolják magukat. Ez azért van így, mert úgy értelmezné, hogy ha egy ember megpróbálná kikapcsolni, akkor azt úgy értelmezné, hogy az a kikapcsolását preferálja.
A harmadik és egyben utolsó alapelv a hasznos mesterséges intelligenciák létrehozásához az, hogy az emberi preferenciákra vonatkozó információk végső forrása az emberi viselkedés legyen. Ezt nevezzük tanulási elvnek. Ez biztosítja, hogy a mesterséges intelligencia mindig közvetlen és tartós tanulási kapcsolatban maradjon az emberrel. Ez azt jelenti, hogy a mesterséges intelligencia idővel egyre hasznosabbá válik az ember számára, ahogy egyre jobban megismeri őt.
Ez a három alapelv egy alternatív értelmezését jelenti annak, hogy mit is jelent a valódi intelligencia: a képességet, hogy az új információk fényében megvizsgáljuk és újrafogalmazzuk saját céljainkat. Az ilyen intelligenciával rendelkező mesterséges intelligencia sokkal közelebb állna az emberi intelligenciához, hiszen mi is képesek vagyunk megvizsgálni és megváltoztatni a céljainkat, amelyekre törekszünk.
És ha a mesterséges intelligencia képes lenne megváltoztatni a céljait az emberi preferenciák fényében, akkor meglenne az alapja az ember és a gép közötti radikálisan új kapcsolatnak: egy olyan kapcsolatnak, amelyben a gép és az ember céljai lényegében azonosak.
A mesterséges intelligenciától sokféleképpen várhatjuk, hogy hasznunkra váljon.
A hírek szerint egyes virtuális otthoni asszisztensek, akik nem tudják megkülönböztetni, hogy ki beszél hozzájuk, engedelmeskednek a televízióban hallott termékek megvásárlására vonatkozó parancsoknak. Nyilvánvaló, hogy a virtuális asszisztensek még nem egészen szuperintelligensek.
De ez meg fog változni.
A virtuális asszisztensek technológiája ugrásszerűen fejlődik, részben a magánszektor hatalmas beruházásainak köszönhetően. A technológia iránti nagy érdeklődés oka, hogy a virtuális asszisztensek által elvégezhető feladatok köre látszólag korlátlan. Nem csak bevásárlólisták készítéséről és a hifi bekapcsolásáról beszélünk, hanem magasan képzett szakemberek munkájának elvégzéséről.
A legfontosabb üzenet itt a következő: Számíthatunk arra, hogy a mesterséges intelligencia sokféleképpen hasznunkra válik.
A virtuális ügyvédek például már most is messze felülmúlják a valódi ügyvédeket a jogi információk gyors beszerzésében. Hasonlóképpen, a virtuális orvosok is felülmúlják az emberi orvosokat a betegségek helyes diagnózisának felállításában.
Előbb-utóbb talán egyáltalán nem lesz szükség szakemberekre. Ehelyett mindannyiunk zsebében ott lesz a saját, személyes, mindenre kiterjedő orvosunk, ügyvédünk, tanárunk, pénzügyi tanácsadónk és titkárnőnk, aki a nap 24 órájában készenlétben áll. A virtuális asszisztenseknek köszönhetően ezek a létfontosságú szolgáltatások demokratizálódnak – nem csak a gazdagok számára lesznek elérhetőek -, és ezáltal mindenki életszínvonala emelkedik.
A mesterséges intelligencia haszna a tudományos kutatás számára is óriási lesz. Egy akár csak alapvető olvasási készséggel rendelkező mesterséges intelligencia képes lenne elolvasni mindent, amit az emberiség valaha is írt reggeli és ebédidő között. Összehasonlításképpen, 200 000 embernek kellene teljes munkaidőben olvasnia, hogy lépést tartson a világ jelenlegi publikációs szintjével.
A szuperintelligens mesterséges intelligencia segítségével a tudósoknak többé nem kell majd a publikált kutatások óriási mennyiségét átvizsgálniuk, mivel a mesterséges intelligencia képes lesz kivenni és elemezni helyettük a releváns adatokat.
A szuperintelligens mesterséges intelligenciának globális alkalmazásai is lesznek. A megfigyelő kamerák és műholdak információinak összegyűjtésével várhatóan az AI segítségével valós időben kereshető adatbázist hozhatunk létre az egész világról. Ezekből az adatokból globális rendszerek – például a gazdasági tevékenység és a környezeti változások – modelljeit állíthatnánk elő. Ezek a modellek lehetővé tennék, hogy hatékony beavatkozásokat tervezzünk ezekbe a rendszerekbe, segítve ezzel például az éghajlatváltozás hatásainak mérséklését.
Nyilvánvaló azonban, hogy a globális megfigyelési rendszerben a magánélet megsértésének lehetősége is fennáll. Ez elvezet a következő gondolathozhoz, amely a mesterséges intelligencia sötétebb oldalával foglalkozik, amelyre mindannyiunknak fel kell készülnünk.
A mesterséges intelligencia mindenki életét bizonytalanabbá teszi.
Az egykori Kelet-Németországban a Stasi volt az egyik leghatékonyabb és legelnyomóbb hírszerző ügynökség, amely valaha létezett. Aktákat vezettek a keletnémet háztartások többségéről, lehallgatták a telefonhívásaikat, elolvasták a leveleiket, és még rejtett kamerákat is elhelyeztek az otthonaikban. Mindezt emberek végezték és papírra írták, ami hatalmas bürokráciát és hatalmas tárolóegységeket igényelt, amelyekben szó szerint több milliárd fizikai papíralapú feljegyzés volt.
Képzeljük csak el, mire lett volna képes a Stasi a mesterséges intelligenciával. A szuperintelligens mesterséges intelligenciával mindenki telefonhívásait és üzeneteit automatikusan nyomon lehetne követni. Az emberek napi mozgását is nyomon lehetne követni a térfigyelő kamerák és a műholdas adatok segítségével. Olyan lenne, mintha minden embernek lenne egy saját ügynöke, aki a nap 24 órájában vigyázna rá.
A legfontosabb üzenet a következő: A mesterséges intelligencia mindenki életét bizonytalanabbá teszi.
A mesterséges intelligencia újabb disztópiákhoz vezethet. Ide tartozik az infopokalipszis – az eszmék piacának katasztrofális kudarca az igazság kiderítése szempontjából. A szuperintelligens mesterséges intelligencia képes lesz hamis információkat gyártani és terjeszteni emberi közreműködés nélkül. Képesek lesznek arra is, hogy konkrét személyeket célozzanak meg, és az információs étrendjüket stratégiailag megváltoztatva sebészi pontossággal manipulálják a viselkedésüket.
Nagyrészt ez már most is megtörténik. A közösségi médiaplatformok által használt tartalomválasztó algoritmusok – amelyeket látszólag az emberek preferenciáinak előrejelzésére terveztek – végül úgy változtatják meg ezeket a preferenciákat, hogy csak egy szűk tartalomválasztékot kínálnak nekik. A gyakorlatban ez azt jelenti, hogy a felhasználók egyre szélsőségesebb politikai nézeteket vallanak. Vitatható, hogy a mesterséges intelligenciának még ezek a kezdetleges formái is nagy károkat okoztak már eddig is, hiszen a társadalmi megosztottságot erősítették és a gyűlöletet terjesztették.
Míg az infopokalipszis még gyerekcipőben jár, a következő disztópia már javában készülőben van. Ez az autonóm fegyvertechnológia által okozott állandó félelem állapota.
Az autonóm fegyvereket – olyan gépeket, amelyek maguk keresik fel és semlegesítik a célpontokat – már kifejlesztették. Az ilyen fegyverek olyan információk alapján azonosítják a célpontokat, mint a bőrszín, az egyenruha vagy akár a pontos arcképmás.
A mészárosrobotoknak nevezett miniatűr drónokat már felkészítették arra, hogy konkrét személyeket keressenek, találjanak meg és semlegesítsenek. Az amerikai légierő 2016-ban 103 slaughterbot drón bevetését mutatta be. A drónokat úgy írták le, mint egyetlen organizmust, amely egyetlen elosztott agyon osztozik, mint a természetben a raj.
Az USA csak egy a sok nemzet közül, amely jelenleg automatizált fegyvertechnológiát épít – vagy már használ -. Ahogy az autonóm fegyverek kiszorítják a hagyományos emberi hadviselést, mindannyiunk élete kevésbé lesz biztonságos, mivel bárki célpont lehet – függetlenül attól, hogy hol van a világon.
A tömeges automatizálás vagy felszabadítja az emberiség potenciálját, vagy legyengíti azt.
Az imént három rémisztő forgatókönyvet néztünk meg, amelyeket a mesterséges intelligencia okozhat. De még nem foglalkoztunk azzal, ami talán a legaggasztóbb és társadalmilag legpusztítóbb fenyegetést jelenti a mesterséges intelligencia szempontjából: az automatizálással.
Az automatizálás több embernek biztosíthat hozzáférést olyan fontos szolgáltatásokhoz, mint az egészségügyi ellátás és a jogi tanácsadás. De széles körű munkanélküliséget is okozhat. Hogy ez pontosan mekkora veszélyt jelent, arról lehet vitatkozni. Az optimisták rámutatnak, hogy minden korábbi ipari forradalomban az automatizálás legalább annyi munkahelyet teremtett, mint amennyit megszűntetett. Ha azonban megnézzük a kutatásokat, azok azt mutatják, hogy az elmúlt 40 évben minden olyan iparágban, ahol automatizálási technológiát vezettek be, jelentősen csökkentek a munkahelyek.
Aggódnunk kell tehát?
A legfontosabb üzenet a következő: A tömeges automatizálás vagy felszabadítja az emberiség potenciálját, vagy legyengíti azt.
Az igazság az, hogy hosszú távon a mesterséges intelligencia valószínűleg szinte az összes létező emberi munkát automatizálni fogja. Ez nem csak az olyan alacsony képzettséget igénylő munkákat fogja érinteni, mint a teherautó-vezetés. Ahogy korábban láttuk, még az olyan magasan képzett szakemberek is veszélyben vannak, mint az orvosok, ügyvédek és könyvelők.
Tehát, amikor egy gép helyettesíti a munkáját, mit tud majd eladni? Nos, nem sok. De mi lenne, ha nem kellene eladnod semmit? Mi lenne, ha hagynánk, hogy a gépek végezzék el az összes munkát, és mégis biztosítanánk, hogy mindannyiunknak legyen elég a megélhetéshez?
Ennek egyik módja lehet az egyetemes alapjövedelem vagy UBI bevezetése. Az UBI minden felnőtt embernek ésszerű havi jövedelmet biztosítana, függetlenül a körülményektől. Azok, akik többet szeretnének keresni, szabadon dolgozhatnának – ha van rá lehetőség. De mindenki más, a megélhetés szükségessége alól felszabadulva, szabadon azt csinálhatna, amit csak akar.
Ez egy rózsás kép, nem igaz? De vajon tényleg utópia lenne ez a forgatókönyv? Ha minden munkát, tanulást és a képességek megszerzésére való törekvést átvennének a gépek, nem válnánk-e leépült lényekké?
Ez valódi aggodalom. Eddig a civilizációnk fenntartásának egyetlen módja a tudás átadása volt, egyik emberről a másikra és az egymást követő generációkon keresztül. A technológia fejlődésével egyre inkább átadjuk ezt a tudást és szakértelmet egy gépnek, amely képes elvégezni helyettünk a feladatot.
Ha egyszer elveszítjük a gyakorlati ösztönzést arra, hogy a tudást átadjuk más embereknek, akkor ez a tudás és szakértelem elsorvad. Ha nem vigyázunk, egy elgyengült fajjá válhatunk, amely teljesen függ a gépektől, amelyek látszólag a szolgálatunkra állnak.
Összefoglaló
A legfontosabb üzenet:
Az a mód, ahogyan jelenleg a mesterséges intelligenciát tervezzük, alapvetően hibás. Az AI-t úgy tervezzük, hogy intelligens legyen, de nem feltétlenül az emberiség érdekeit tartja szem előtt. Ezért az emberi célok teljesítését kell az AI egyetlen céljává tennünk. Ha sikeresen irányíthatnánk a szuperintelligens mesterséges intelligenciát, akkor képesek lennénk arra, hogy hatalmas erejét civilizációnk fejlesztésére és az emberiség kiszabadítására használjuk fel a szolgaságból. Ha azonban kudarcot vallunk, fennáll a veszélye, hogy elveszítjük autonómiánkat, mivel egyre inkább egy felsőbbrendű intelligencia szeszélyeinek leszünk kiszolgáltatva.
Elindult a Business Flow internetes piactere minden vállalkozónak. Kiváló hely vevőket szerezni, kapcsolatokat építeni és rengeteg tudáshoz hozzájutni.