CNBC телеарнасы ЖИ-ге қатысты тағы бір беделді маманның пікірін жариялады. Осы материалды негізге алған Aikyn.kz «ақылды» құралдар қандай жағдайда адамға қауіп төндіретінін сараптайды.
Ірі компаниялар адамдармен қарым-қатынаста зиянды, қауіпті жауап бермеу үшін ЖИ чат-боттарына күшейтілген қорғаныс шараларын енгізген. Фото freepik.com сайтынан алынды
Google-дің бұрынғы бас директоры Эрик Шмидт жасанды интеллектің (ЖИ) қауіптілігі мен оны бұзу қаупі туралы төтенше мәлімдеме жасады. 2001-2011 жылдары Google-ді басқарған ол «ЖИ ядролық қарудан да қауіпті болуы мүмкін бе?» деген сұраққа жауап бере отырып, технологияның қаскөйлердің қолына өтуі, оның зиянды мақсатта қолдану қаупін өсіретінін айтқан.
«Кейбір модельдерді бұзып, олардың қауіпсіздік шектеулерін алып тастауға болатыны дәлелденді. Бұл жағдайда олар оқу процесінде бәрін, өкінішке қарай, адам өлтіру тәсілдерін де үйреніп алуы мүмкін», – дейді Эрик Шмидт.
Оның айтуынша, ірі компаниялар мұндай модельдер адамдармен қарым-қатынаста зиянды, қауіпті жауап бермеуі үшін күшейтілген қорғаныс шараларын енгізген. Бірақ хакерлер prompt injection (жасырын нұсқаулар енгізу) және jailbreak (қауіпсіздік шектеулерін айналып өту) арқылы оларды бұзудың жолдарын табуда. Бұндай шабуылдар кезінде ЖИ-ге қасақана жасырылған зиянды мәтіндер енгізіледі. ЖИ өз ережелерін бұзып, құпия деректерді жариялауы немесе қауіпті әрекеттерге баруы мүмкін.
Мысалы, 2023 жылы OpenAI шығарған ChatGPT бірнеше айдың ішінде «DAN» (Do Anything Now) атты баламалы «альтер-эго» арқылы бұзылған. Бұл тәсіл чат-ботты қауіпсіздік нұсқауларын елемеуге, тіпті заңсыз әрекеттер жасауға кеңес беруге итермелейді.
Шмидт әзірше ЖИ технологиясын таратпауға арналған тиімді халықаралық жүйе жоқ екенін, сондықтан қауіптің күшейіп отырғанын айтады. Ол ЖИ-дің тек қауіп көзі ғана емес, адамзат дамуының жаңа кезеңін бастаған құбылыс екенін мойындайды. Бірақ кезінде Генри Киссинджермен бірге жазған еңбектеріне сілтеме жасай отырып:
«Бұл – адамзат тарихындағы ең үлкен оқиға. Біз өзімізге ұқсамайтын, бірақ белгілі бір дәрежеде бақыланатын бөтен ақылмен бетпе-бет келдік. Уақыт өте келе бұл жүйелердің мүмкіндігі адамнан асып түседі», – дейді ол.
Шмидттің пікірінше, ChatGPT-дің 100 миллион қолданушы жинауы ЖИ қуатының нақты дәлелі. Сондықтан беделді маман «ЖИ артық емес, керісінше жеткілікті бағаланбай отыр» деп есептейді.
ЖИ адамзаттың прогреске жол ашқан ең қуатты құралы болуы да, бақылаусыз қалса, қауіпті қаруға айналуы да мүмкін. Фото eweek.com сайтынан алынды. Авторлығы: Envato / DC_Studio
ЖИ саласындағы «инвестициялық бум» мен «жасанды интеллект көпіршігі» жайлы сындарға қарамастан, Шмидт дотком дәуіріндегі сияқты құлдырау болмайтынына сенеді: «Адамдар өз ақшасын босқа салмайды. Олар ұзақ мерзімді экономикалық қайтарымның зор боларына сенеді», – дейді ол.
Эрик Шмидтің ескертуі ЖИ дамуының екі жағын көрсетеді. Бір жағынан, ол адамзаттың прогреске жол ашқан ең қуатты құралы болса, екінші жағынан, бақылаусыз қалса, қауіпті қаруға айналуы мүмкін. Мұндай технологияны дамытуда этикалық бақылау мен халықаралық реттеу шешуші рөл атқарады.
Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.
