AI експерти се изплашиха от исканията на Мъск за пауза на изкуствения интелект
Четирима експерти в областта на изкуствения интелект изразиха загриженост, след като работата им беше цитирана в отворено писмо, подписано от Илон Мъск, с искане за спешна пауза в изследванията.
В писмото с дата 22 март, което до петък бе подписано от над 1 800 души, се призовава за шестмесечна пауза в разработването на системи, „по-мощни“ от новия GPT-4 на OpenAI, подкрепян от Microsoft, който може да води разговор като човек, да композира песни и да обобщава дълги документи.
След като предшественикът на GPT-4 – ChatGPT – беше пуснат миналата година, конкурентни компании побързаха да пуснат подобни продукти.
В отвореното писмо се казва, че системите за изкуствен интелект с „човешки конкурентен интелект“ представляват сериозен риск за човечеството, като се цитират 12 изследвания на експерти, сред които университетски преподаватели, както и настоящи и бивши служители на OpenAI, Google и нейното дъщерно дружество DeepMind.
Оттогава групи на гражданското общество в САЩ и ЕС настояват пред законодателите да ограничат изследванията на OpenAI. OpenAI не отговори веднага на запитванията за коментар.
Критиците обвиниха Института за бъдещето на живота (FLI) – организацията, която стои зад писмото и която се финансира основно от фондацията на Мъск – че дава приоритет на въображаемите апокалиптични сценарии пред по-непосредствените опасения, свързани с ИИ, като например програмирането на расистки или сексистки предразсъдъци в машините.
Сред цитираните изследвания е и „За опасностите от стохастичните папагали“ – добре известен документ, чийто съавтор е Маргарет Мичъл, която преди това е контролирала етичните изследвания на ИИ в Google.
Мичъл, която сега е главен учен по етичните въпроси във фирмата за изкуствен интелект Hugging Face, разкритикува писмото, като заяви пред Ройтерс, че не е ясно какво се смята за „по-мощно от GPT4“.
„Като разглежда много съмнителни идеи като даденост, писмото утвърждава набор от приоритети и разказ за ИИ, който е от полза за поддръжниците на FLI“, каза тя. „Игнорирането на активните вреди в момента е привилегия, която някои от нас нямат“.
