Моралът на изкуствения интелект и бъдещето на професиите: Сал Алтман пред Тъкър Кларксън

Изпълнителният директор на ChatGPT Сал Алтман даде интервю пред журналиста Тъкър Кларксън. В него създателят на най-известния модел на изкуствен интелект разказа как се "тренира" морал и къде е границата между истината и възприятието.

Доколко е автономен изкуственият интелект?

Според него така наречената халюцинация не е лъжа. Алгоритъмът е трениран по такъв начин, че да възприема информацията, дадена от потребителя като вярна дори когато не отговаря на данните, с които работи.

Така ако потребителят го попита за рождената дата на измислен президент, той ще приеме съществуването му за сигурно. "Потребителите ми казаха, че е имало такъв, така че ще направя най-доброто си предположение за число", обяснява Алтман за начина на работа на алгоритъма. Въпреки това, той смята, че най-новата версия на чатбота - GPT-5 , е постигнала значителен напредък в разрешаването на този проблем.

Този пример показва, че изкуственият интелект не е достигнал до нивото, в което да разсъждава сам. "Те не правят нищо, освен ако не ги помолиш, нали? Просто си седят там и чакат."

Именно фигурата на човека е притеснявала най-много Алтман в началото на OpenAI. "Преди се тревожех много за концентрацията на власт в ръцете на един или шепа хора или компании заради изкуствения интелект." На този етап обаче той смята, че широкият достъп до новата технология ще даде предимство на всички, като ги направи по-продуктивни и креативни.

Създателят на ChatGPT: Служители избират OpenAI пред $100 млн. от Meta

Изпълнителният директор прогнозира, че много професии ще изчезнат, а други ще се променят драстично

Кой определя границите на морала?

Алтман обяснява, че преди въвеждането на моралните критерии компанията му се е консултирала с философи и специалисти по етика, като взима предвид и мнението на потребителите. "Това, което трябва да направим, е да се опитаме да отразим морала, не искам да казвам средностатистически, но колективния морален възглед на тази потребителска база."

Въпреки това, Кларксън отбелязва разликата в ценностните системи на различните групи хора по света. Като пример дава легализацията на асистираното самоубийство в някои страни. В такъв случай универсалният модел на чатбота не отговаря на всички законови и културни рамки.

Тема на разговора стана и случаят със самоубийството на младо момче, което си е контактувало с чатбота на OpenAI. Макар да е обучен да дава съвети за търсене на помощ при подобни ситуации, ChatGPT може да даде насоки за подобни действия, ако те са свързани с конструирането на история (например при писането на книга). Именно това се е случило и при 16-годишния Адам.

"Ако имате суицидни мисли, говорите за самоубийство, GPT ще ви покаже многократно съобщение: "Моля, обадете се на горещата линия за самоубийства", но ние няма да се обаждаме на властите вместо вас", обяснява Алтман. Като причина изтъква приоритизирането на поверителността на потребителя, която може да бъде нарушена само по заповед на властите.

Въпреки това, изпълнителният директор на OpenAI изтъква, че информацията, която ChatGPT представя на потребителя, е леснодостъпна и в обикновената интернет търсачка.

Шефът на OpenAI Сам Алтман: Настоящият модел на ChatGPT е толкова "полезен", колкото първите мобилни телефони

Според него, въпреки че много хора използват услугите AI, учените все още не са успели да определят количествено колко те са подобрили производителността им

Кои професии ще промени ChatGPT?

Според Алтман голяма част от хората в света в момента използват AI в работата си. Въпреки това, те продължават да взимат решения и да оценяват информацията, която получават, което показва, че са по-умни и компетентни от алгоритъма.

"Някой ми каза, че 50% от професиите се променят средно на всеки 75 години. Моето противоречиво мнение би било, че това ще бъде като прекъснат момент на равновесие, който се случва в по-кратък период от време. Ако погледнем отстрани, няма да бъде особено различно от историческа гледна точка."

На този етап основателят на OpenAI смята, че голяма част от хората, които работят в сектора на обслужването на клиенти в дигиталната среда, ще бъдат заменени с по-ефективен и евтин софтуер.

От друга страна, професиите, които имат пряк контакт с човека (например медицински сестри), ще останат сред най-търсените. Най-несигурен обаче е за бъдещето на компютърните програмисти.

Въпреки това, Алтман смята, че прогресът на технологиите ще доведе до създаването на нови професии.

Сред темите на разговор попаднаха смъртта на бивш служител на OpenAI, който обвиняваше компанията в нарушаване на закона за авторското право, както и отношенията на Сам Алтман с бившия му съдружник Илон Мъск.

GPT-5: Най-мощният модел на изкуствен интелект стана още по-мощен

Отговаря ли наистина на нивото на експерт с докторска степен?