28лютого 2020

Чи справді машини знищать людство: теорії змови у сфері штучного інтелекту.

Зустріч West Ukrainian Business Club

Дата: 28.02.2020.

 

Спікери:

Рон Фрідман

Tech Entrepreneur, співзасновник Mawi, machine learning expert, SingularityU Kyiv Chapter AI Lecturer

Перший стартап Рона - кардіологічний бізнес, що пов’язаний з інноваційним медичним девайсом. За допомогою штучного інтелекту він може вирішувати ряд проблем серця та діагностувати їх на ранніх етапах.

Власник софтверної компанії, що надає послуги по всьому світу у сфері ШІ, клієнтами є такі гіганти, як LG, Samsung та ін.

 

Андрій Дахній

Працює в академічній сфері, доктор філософських наук, очолює кафедру історії та філософії в університеті ім. І.Франка, викладач в УКУ, займається перекладами з німецької мови.

 

Підсумки зустрічі:

Визначення інтелекту

Андрій Дахній: “Інтелект - це вміння аналізувати та логічно, несуперечливо мислити. Це спроможність узагальнювати матеріал та доходити до певних висновків, прислухатися та відкриватися до іншого досвіду, вміння чути іншого.

Прикладом тут є Сократ, який казав, що людина має не просто сумніватися в тому, що вона висловлює, в чому, власне, виявляється інтелектуальність. Вона має вміти вести діалог з багатьма співрозмовниками, саме це дає шанс ближче добратися до істини.

Щодо термінологічного визначення інтелекту та штучного інтелекту - в слов’янських мовах ці слова є однакові. В романо-германських мовах це не так, адже там є поняття intellect та intelligence. Тобто, коли про інтелект людини, вживають intelect, а коли мають на увазі ШІ, то artificial intelligence.

Цей момент розмежовується в романських та германських мовах і виходить, що тут йдеться не тільки про змістове наповнення, а й про формальну оболонку, вона інакша”.

Рон Фрідман: “99% програмістів, що працюють у сфері ШІ не задають собі такого питання, вони просто програмують. Проте, насправді, щоб зрозуміти навіщо ми робимо тут чи іншу нейронну мережу, яка вирішує потім якусь проблему, треба зрозуміти, коли настане момент визнання нами, що ШІ переміг. Переміг, в цьому контексті, означає, що він існує.

Слово “штучний” нам зрозуміло - це той, що не пов’язаний з людиною.

Що таке інтелект? Існує багато визначень і ніхто не знає, яке з них правильне. Виходячи з мого фаху, мені подобається визначення, що звучить приблизно так: “інтелект - це можливість особи робити якийсь усвідомлений прогноз”. Це важливо, адже ми всі відтворюємо якусь низькорівневу поведінку: їмо, дихаємо тощо. Від тварин нас відрізняє високорівнева поведінка, фактично, можливість побудувати якийсь план на завтра.

ШІ - це якась сукупність алгоритмів, що дозволяє нам робити певний нестандартний прогноз на завтра, на секунду чи на рік вперед. Це принципово новий прогноз майбутнього на основі набутих даних”.

 

Хто найбільший замовник у сфері ШІ?

Рон Фрідман: “Раніше найбільшими замовниками були технологічні компанії. Сьогодні технології настільки проникли в різні сфери, що я не уявляю жодного бізнесу, який сьогодні не використовує ШІ”.

 

В якій галузі найбільше використовують ШІ?

Рон Фрідман: “Краса людського мозку в тому, що ми можемо робити багато складних дій. Зараз намагаються зробити artificial general intelligence, такий, який буде розв'язувати різні задачі однією нейронною мережею, як і наш мозок. На сьогоднішній це ще не вдалося, таких прикладів немає, є певні винятки, але вони не охоплюють великих масштабів.

Загалом, мені здається, що все це робиться для того аби повторити те, що відбувається в голові людини. Проте, зараз те, що є artificial набагато гірше від того, що є у людському мозку”.

 

Що є найбільшою загрозою для людства з розвитком ШІ?

Андрій Дахній: “В літературі давно є романи-антиутопії, що описують повстання машин, чимало знято фільмів. Говорять про це і філософи, до прикладу, Мартін Гайдеггер. Він свого часу, у 20-му столітті казав, що велика загроза для людства полягає в тому, що калькулююче мислення в людини остаточно витіснить осмислююче, відтак, людина сама перетвориться в такий механізм.

Постійно говорять про те, що техніка виходить з-під контролю людини й отримує над нами дедалі більшу владу.

Ми бачимо як зникають професії, і деякі апокаліптичні прогнози лякають.

Варто було ще на початку відзначити - існує низка наук дуже дотичних до сфери ШІ. У світі існують так звані когнітивні науки. Туди зараховують лінгвістику, психологію, філософію, антропологію, нейронауки й ШІ. Машина намагається дублювати те, що знаходиться в людському мозку. Для того, щоб це зробити треба керуватися даними цих наук, всі ці сфери перетинаються. Проте, ми все одно кажемо, що ціле є більше, ніж сума його частин.

Природа інтелекту, і штучного в тому числі? Свого часу французький філософ Огюст Конт говорив, що задача пізнання полягає в усвідомленні запобігання небезпек. Філософія ставить це одним із ключових завдань перед собою”.

Рон Фрідман: “Є тест Тюрінга, придуманий у 20 ст із зародженням комп’ютерних наук, перших алгоритмічних спроб створити ШІ. Тоді одразу виникло питання: “коли можна буде сказати, що світ через це змінився?”.

Тест полягає у визначенні людини проявляти інтелектуально обумовлену поведінку. Простими словами - є людина та інший комп’ютер, є інтерв’юер, який ставить різні питання в чат. Інтерв’юер не повинен по відповідях розрізняти, де людина, а де комп’ютер. Найвищий результат - досягти того, щоб навіть людина не розуміла, що інтерв’юер - це інтерв’юер.

Сьогодні ми бачимо, що вже є чат-боти, які не одразу можна відрізнити від людини. Нещодавно нейронна мережа Google подзвонила до барбершопу, розмова тривала 10 хв і мережа могла без проблем відповісти на абсолютно всі додаткові запитання.

В контексті сказаного, для мене буде казусом, якщо ми вже будемо у світі ШІ, але навіть не зрозуміємо цього”.

 

Які галузі помруть через розвиток ШІ?

Рон Фрідман: “Я скажу, що всі. Адже перехід людини з менш інтелектуальної професії на більш інтелектуальну відбувався завжди. Зараз, наприклад, вимирають кол-центри, їх можна автоматизувати. Це нормально, ми створюємо собі інструменти для того, щоб спростити життя.

Є теорія популярна у Швейцарії Universal Basic Income, коли людям будуть просто платити зп за нічого. Загалом, мені набагато страшніше думати про те, що може відбутися через погіршення екології або через перенаселення, ніж через втрату людьми робочих місць”.

 

Безпека в час ШІ?

Рон Фрідман: “ В Ілона Маска є дві теорії, які його турбують. Це ситуація з роботами, що є реально механізованими військовими об’єктами. Це фактично зброя, яка частково контролюється алгоритмами, що своєю чергою може призвести до якогось збою. Про що ШІ ймовірно попереджає про це всіх інших учасників цієї гри і тут люди залишаться в меншості. Друга його теорія - це те, що ми вже живемо під чиїмось контролем”.

Андрій Дахній: “Чи можемо ми говорити про те, що є сфери де обов’язково застосовувати ШІ й є сфери, де машина не може замінити людину? Наприклад, чи може бути створена музика, що буде конкурувати з тією, яку написав Моцарт?”

Рон Фрідман: “Геній Моцарт - це хороший твір плюс трохи маркетингу і ми всі цим пишаємось. Це зрозуміло, адже навколо цього створено багато інституцій, про це говорили наші батьки, про це розповідають у школах. Але наскільки воно насправді геніально - це ще питання. Як поміряти якість музики?”

Андрій Дахній: “Є речі, які не повинні сприйматися в маркетинговій парадигмі. Існують приклади, що доводять протилежне. Йоганн Себастьян Бах не був належно оцінений сучасниками, його розкрили набагато пізніше.

Коли говоримо про суб’єктивне, то багато речей ми саме так сприймаємо. Ось маю приклад, коли свого часу Раневська потрапила до Дрездена й оглядала там Сикстинську Мадонну. Хтось підійшов до картини та сказав, що вона на нього не справляє враження. На що Раневська відповіла: “Вона вже на стількох людей справила враження, що сьогодні може сама обирати на кого їй справляти враження”.

 

Яка в підприємця має бути стратегія щодо використання ШІ?

Рон Фрідман: “Думаю в кожному бізнесі є певне ядро - він щось продає та отримує прибуток. ШІ може бути оптимізатором ряду процесів і запитати як використовувати ШІ це те саме, що запитати як використовувати комп’ютер в бізнесі. Думаю, що кожен бізнес знає свої слабкі місця, де є неефективність, яку можна вирішувати, і завжди різними шляхами. Просто треба розуміти, що Big Data може дати тобі багато таких даних про твій бізнес про які ти не міг знати раніше”.

 

Як навчитися жити з тим, що ШІ буде серед нас?

Андрій Дахній: “Наважуся сказати апелюючи до певного досвіду, що є нація у світі, яка навчилася поєднувати високу технологічність і теплі зв’язки між людьми чи зв’язки людини з природою - це японці”.

Рон Фрідман: “Японія дійсно класний приклад. Для мене головне - це, щоб людина залишилася людиною. Проте, не використовувати технології чи ігнорувати їх абсурдно. Навіщо це робити, коли є щось круте, що нас прокачує і дає нам нові можливості”.

Андрій Дахній: “Можливо, банально, але скажу, що, коли людина проводить багато часу за комп’ютером - це впливає на її мозок. Також, це залежність, що поєднується з нарко та алкогольною, тому треба дозувати, хоч це і достатньо тривіальна теза”.

Рон Фрідман: “Звісно, тут, як і у всьому, стоїть питання балансу. Люди ж унікальні завдяки двом речам: емоціям та емпатії. Якщо ми будемо спілкуватися тільки з машиною - це ненормально”.

 

Як розвиваються держави у сфері ШІ і яке місце в цьому займає Україна?

Рон Фрідман: “В одному з відомих інтерв’ю Цукерберга та Харарі був неприємний для України момент. Харарі запитав чи є майбутнє ШІ в таких країнах як Україна, Ємен та Гондурас. Це при тому, що ми країна, що є в десятці по software development, крім того у нас є величезне проникнення в екосистеми топових компаній світу, словом, таке порівняння було явно некоректним. Тому я підготував аналітику, де видно, що Китай іде з величезним відривом у використанні ШІ. Проте тут є дещо найстрашніше - вони готові до будь-яких експериментів. Наприклад, цивілізовані країни не дозволяють експериментів над людьми, а в Китаї є школи, де запроваджено браслети та камери які трекають ефективність учня і його залученість в процес навчання. В результаті на цих даних будується їх оцінка.

Далі йдуть США, Франція, Німеччина, Австрія, Японія - всі ці країни є в гонитві по використанню ШІ за кількома параметрами: кількість коштів вкладених державою у цю сферу, яка кількість компаній використовує ШІ та який потенціал цих технологій у світі”.

 

З розвитком ШІ маніпуляція масами неминуча, як людині залишатися інтелектуально незалежною і зберігати внутрішній стан свободи?

Рон Фрідман: “Це те питання яким я задаюсь особисто. Не повстання машин, а саме це, про свободу. Фейсбук має про мене більше даних, ніж я сам чи моя мама. На основі цього нами можуть маніпулювати. Від малої маніпуляції - продати одяг чи телефон, до великої - вибрати іншого президента. Це будь-що, що в сумі може дати нову стратегію розвитку людства. Як цьому чинити опір? У мене нема відповіді”.

Андрій Дахній: “Коли говоримо великі дані, то я б знову покликався на Харарі. Він писав, що можна сумістити антиутопію із романом Орвелла “1984” із Big Data. Ми всі пам’ятаємо фразу: “Big Brother is watching you”. Зараз саме той час.

Щодо поставленого питання, то я собі уявив ситуацію початку 40-х років нацистської Німеччини 20-го століття. Тоді була маса інтелектуалів. Проте, в час коли Гітлер прийшов до влади, всі вони втратили здоровий глузд, вони були піддані загальному психозу. Я не песимістичний в цих питаннях, але є багато свідчень того, що навіть дуже освічена нація може ставати безпорадною перед напором певних факторів”.

 

Можна передбачити, що ШІ створить бізнес, яким керуватиме ШІ і в такому разі чи можна сказати, що колись ШІ буде визначатися як фіскальна особа, яка підлягатиметься оподаткуванню?

Рон Фрідман: “Можливо колись так. Якщо буде створено artificial general intelligence, то можливо якась регуляторика буде визначена, але це вже станеться опісля”.

 

Чи будуть люди, що розвивають ШІ робити щось, щоб забезпечити роботою тих чиї професії зникнуть через ШІ, чи створюватимуться якісь рішення по цьому питанню?

Рон Фрідман: “Особисто я не буду цього робити. Моя справа - це автоматизація, а не соціальне виховання людей. Я вважаю, що у 21 ст основна навичка - це адаптація, а історія про одну професію - це вже минуле.

Друге - це постійне навчання. Я знаю, що сьогодні освіта настільки змінена, що людина реально має можливість освоїти інший фах, піти працювати за цим фахом 2 роки, потім освоїти іншу професію і так змінити 10 професій за життя. Я розумію, що є знання, які фундаментально передаються десятки років, але навіть ця парадигма потрохи змінюється”.

Андрій Дахній: “Був такий польсько-британський соціолог Зигмунд Бауман, який запропонував теорію ТINA або there is no alternative. Нам кажуть, що всі мають мінятися протягом життя, але я думаю, що це не є універсальний рецепт. Я впевнений, що є професії, де людина може себе реалізовувати від початку до кінця. Якщо людина займається професією як покликанням.

Як на мене, треба диференціювати і казати про універсальні професії - є необачно і спрощено”.

 

Підсумок

Андрій Дахній: “Філософія ніколи не претендує на розв’язання якихось проблем. Ми можемо ставити питання, казати про шанси, серйозні можливості, загрози та виклики, які дає впровадження ШІ. Ми, в дискусії, побачили де це може бути велетенським благом, а де велетенським злом. Розпізнати благо і зло - це справа етики та практичної філософії. Уніфікованої відповіді не існує, я вважаю”.

Рон Фрідман: “ШІ - це інструмент і я бажаю всім його використовувати саме так. Інвестиції в ШІ хороші, адже в них точно є майбутнє. Це одна з топ речей, які змінять світ в майбутні 10 років і боятися цього не варто. Ми, як підприємці, знаємо, що це можливість, а не загроза”.

 

Теги

Штучний Інтелект

Увійти



Забули пароль?

заявку подано

Ви успішно пройшли реєстрацію. Як тільки наш менеджер перевірить правильність введених даних - ми надішлемо на вашу поштову адресу лист із підтвердженням реєстрації.

На головну