Я уже написал немало заметок о том, что сегодняшняя «ИИ»-шумиха имеет прообраз в 1960х гг., когда шла мировая ядерная война. Тогда тоже строили огромные здания для размещения огромных компьютеров, нанимали для их обслуживания толпы техников и снимали для рекламы пропагандистские фильмы с Майклом Кейном.
Узкому кругу людей было известно, что все это хозяйство скоро можно будет выбрасывать на помойку, потому что для систем наведения межконтинентальных баллистических ракет уже использовались не вакуумные лампы и не отдельные транзисторы, как в гражданских компьютерах, а секретные кристаллы высокой степени интеграции.
К 1970м гг. ядерная война закончилась, и гражданским разрешили эти кристаллы. Появились первые персональные компьютеры, и был взят курс на строительство гражданского интернета — все это выходило далеко за пределы фантазий 1960х гг.
Если представить себе на секунду, что мир не летит в тартарары, а лишь проходит через очередную итерацию технического прогресса, то должна быть какая-то секретная военная технология, на которой через пару десятков лет построят новую информационную среду, может быть, даже с всамделишным ИИ, а не имитацией.
По аналогии с 1960ми гг. эта технология должна обеспечивать управление новейшим оружием. В данный момент таким оружием являются автономные дроны, способные вести бой без участия оператора-человека.
У нас есть такая технология — упакованные в чип человеческие нервные клетки смогли научиться играть в компьютерную стрелялку. Следующий шаг: стрелять не по нарисованным какодемонам, а по настоящим.
Отказ от полупроводников в пользу биологии позволит сильно сократить требования к энергопотреблению системы управления дроном. Автономный дрон сможет делать больше и лучше на той же самой батарейке.
Проблема при переходе на биологию лежит в её обучении. В нервные клетки нельзя загрузить однажды обученные веса модели, как в полупроводниковую память. Каждое изделие нужно обучать с нуля при производстве, и процесс обучения должен быть воспроизводимым. Но и эта проблема решаема.
Где лежит добавленная стоимость «ИИ»-компаний? Не в ускорителях умножения матриц и не в корпусе данных для обучения, все это они покупают, или им дают просто так. Их продукт это конвееры для обучения моделей через подкрепление (reinforcement learning). Это бихевиоризм-как-услуга.
Если принимать то, чем якобы занимаются OpenAI и Anthropic, за чистую монету, то большая часть их деятельности выглядит как шарлатанство или, в лучшем случае, раздутая рекламная кампания. Нанятых в штат философов, специализирующихся на проблеме сознания, нельзя воспринимать по-другому, если речь идет о типичной софтверной фирме из Кремниевой Долины.
У умножителя матриц, даже очень большого, нет ни «сознания», ни «психологических состояний». Может быть только иллюзия по накурке, когда человек находит «сознание» даже у деревьев и камней, что типично в Калифорнии. Но у животного с нервной системой, пусть и небольшой, сознание может быть, и для его обучения специалисты по душам могут пригодиться.
На таком производстве неизбежен ряд этических вопросов, особенно если используются нервные клетки человека. Именно поэтому также неизбежно участие в нем военных. Для защиты родины можно поступиться общечеловеческими принципами и можно ввести режим секретности, чтобы либеральные нытики не совали нос.
Именно ради поддержания режима секретности был устроен недавний спектакль с, якобы, исключением Anthropic из участия в контрактах Пентагона за недостаточный патриотизм. Но как это свойственно американцам, забрасывающим лучшего кадета разведакадемии (самого собой, черного) в Сибирь, они не догадались поменять название конторы на менее приметное.
Неологизм «anthropic» буквально значит «человеческий». «AI» это, на самом деле, «anthropic intelligence», т.е. буквально основанный на человеческой биологии.
Американцы не любят умных людей, они слишком непослушные. Разобрать умника на составляющие, выкинуть все ненужное (с точки зрения американца) и оставить только самое полезное (опять же, с точки зрения американца) — это самая главная американская мечта.
