Риски неконтролируемости для моделей GenAI американских технологических компаний
Отзывы
Оценка читателей
0.0 (0 голосов)


Всего просмотров
35


Скачивания
0
УДК
33 Экономика. Народное хозяйство. Экономические науки
93/94 История
32 Политика
Дата выпуска
30.11.2024
Год выпуска
2024
DOI
10.18254/S207054760033268-1
Риски неконтролируемости для моделей GenAI американских технологических компаний
Аннотация

В статье рассматриваются тренды на рынке продуктов генеративного искусственного интеллекта (GenAI) американских высокотехнологичных компаний. Ставится вопрос о рисках неконтролируемости этой технологии. В первую очередь речь идёт о лидерах технологической гонки – таких языковых моделях, как ChatGPT (OpenAI), «Джемини» (Gemini, Google) и др. Говорится о предупреждениях учёных (Э. Хинтон, Й. Бенжио, И. Суцкевер) о неконтролируемых последствиях технологической конкуренции по выпуску  передовых моделей генеративного ИИ между Google и Microsoft и необходимости регулирования в этой области. Рассматриваются проблемы, связанные с качеством данных, от которых зависит достоверность результатов работы генеративных нейронных сетей, как одного из главных факторов риска неконтролируемости. Освещаются новые подходы в законодательном регулировании в области GenAI в связи с подготовкой калифорнийского законопроекта SB 1047. 

Об авторах
Соколова Марианна Евгеньевна
Институт США и Канады РАН
Библиография

1. «С арабами сходились в рукопашной».23.10.2023. Available at: https://lenta.ru/articles/2023/10/23/israel/ (accessed: 20.8.2024).

2. Gartner: генеративный ИИ близок к “избавлению от иллюзий”. 22.08.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=230226 (accessed: 7.10.2023).

3. Причинный ИИ поможет генеративному ИИ признаться, почему он сделал то, что сделал». 05.03.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=228828 (accessed: 20.8.2024).

4. McKinsey: внедрение генеративного ИИ начинает приносить выгоду. Available at: https://www.itweek.ru/ai/article/detail.php?ID=229541 (accessed: 20.8.2024).

5. Сотрудники распробовали преимущества автономного ИИ на рабочем месте.03.07.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=229843 (accessed: 20.8.2024).

6. ИИ на устройствах — будущее потребительских и корпоративных приложений.03.07.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=229841 (accessed: 20.8.2024).

7. Там же.

8. Бевза Д. Искусственный интеллект вторгается в мобильные сети. 01.07.2024. Российская газета. Available at: https://rg.ru/2024/07/01/iskusstvennyj-intellekt-vtorgaetsia-v-mobilnye-seti.html (accessed: 20.8.2024).

9. Deloitte: трудности с внедрением генеративного ИИ сдерживают энтузиазм. 23.08.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=230247 (accessed: 20.8.2024).

10. Metz Cade ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead. New York Times. Available at: https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html?ref=platformer.news (accessed: 20.8.2024).

11. Самые раздражающие проблемы с качеством данных. 21.08.2024. itWeek. Available at: https://www.itweek.ru/bigdata/article/detail.php?ID=230223 (accessed: 20.8.2024).

12. Там же.

13. McKinsey: внедрение генеративного ИИ начинает приносить выгоду. Available at: https://www.itweek.ru/ai/article/detail.php?ID=229541 (accessed: 20.8.2024).

14. Carr A., Ford B. Adobe’s Very Cautious Gambit to Inject AI Into Everything. 13.02.2024. Available at: https://www.bloomberg.com/news/features/2024-02-13/adobe-targets-openai-midjourney-with-lawyer-proof-ai-artbot?sref=CrGXSfHu&ref=platformer.news (accessed: 20.8.2024).

15. Ситуация радикально поменялась с 2015 г., когда сервис фотографий Google Photo приняло за горилл чернокожих людей на фотографиях, автоматически поместив снимки с ними в альбом с таким названием.

16. Working Without Borders: The Promise and Peril of Online Gig Work. Available at: https://openknowledge.worldbank.org/entities/publication/ebc4a7e2-85c6-467b-8713-e2d77e954c6c (accessed: 20.8.2024).

17. New Oxford report shows freelance and microwork platforms fail to provide minimum fairness standards for their global workforce. Available at: https://www.oii.ox.ac.uk/news-events/new-oxford-report-shows-freelance-and-microwork-platforms-fail-to-provide-minimum-fairness-standards-for-their-global-workforce/ (accessed: 20.8.2024).

18. Dean W. «Code Dependent» The Guardian. 23.04.24. Available at: https://www.theguardian.com/books/2024/mar/23/code-dependent-by-madhumita-murgia-review-understanding-the-human-impacts-of-ai (accessed: 20.08.2024).

19. Deloitte: трудности с внедрением генеративного ИИ сдерживают энтузиазм. 23.08.2024. itWeek. Available at: https://www.itweek.ru/ai/article/detail.php?ID=230247 (accessed: 290.8.2024).

20. SB 1047 (SB-1047 Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (2023-2024). https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1047 (accessed: 20.8.2024).

21. Piper K. The AI safety bill Big Tech hates has passed the California legislature. Vox. 29.08.2024. Available at: https://www.vox.com/future-perfect/355212/ai-artificial-intelligence-1047-bill-safety-liability (accessed: 29.8.2024).

22. Taylor J., Herh A. Godfather of AI’ Geoffrey Hinton quits Google and warns over dangers of misinformation. 2.05.2023. The Guardian. Available at: https://www.theguardian.com/technology/2023/may/02/geoffrey-hinton-godfather-of-ai-quits-google-warns-dangers-of-machine-learning (accessed: 20.8.2024).

Полная версия доступна только подписчикам
Подпишитесь прямо сейчас