Виталик: Сверхразумный ИИ очень рискован

Об этом заявил сооснователь Ethereum Виталик Бутерин. Пожалуйста, не создавайте серверные масштабы 7T. Сильная экосистема открытых моделей, работающих на потребительском оборудовании, является важной защитой от будущего, в котором ценность, получаемая от ИИ, будет высококонцентрированной, а большинство человеческих мыслей считывается и передается горсткой центральных серверов, контролируемых горсткой людей. Такие модели также имеют гораздо меньший риск разрушения, чем корпоративное высокомерие и армии. Разделение ИИ на малые и большие категории, исключение мелких категорий и регулирование крупных категорий кажется в принципе разумным. И 405B больше, чем потребительское оборудование (70B — нет; я могу его запустить). Но беспокойство вызывает то, что многие текущие предложения в конечном итоге приведут к тому, что все будет разбито на большие категории.