Хотя лично у меня есть некоторые серьёзные вопросы о самой формулировке, но не будем придираться.
А откуда, собственно говоря, такая уверенность, что человечество может породить кого-то существенно более умного, чем человек?
В обществе тупиц не может сам по себе появиться гений, ему поведенческого и культурного материала не хватит, не на что будет опираться.
Т.е. даже если человек будет гениален - он качественно не уйдёт от своего окружения.
Никаких оснований считать, что существенно более умный "искусственный интеллект" может быть воспитан сушественно менее умными людьми как-то тоже не просматривается.
Если же говорить о текущем векторе развития IT в этом направлении - то "интеллектуальные системы" типа гугловской рекламы, яндекс-навигатора и тому подобных Alexa даже и на уровень среднечеловеческого тупицы не тянут.
Управление обществом будет передаваться таким же автоматизмам, существенно более ограниченным, чем средний человек. Несопоставимо более ограниченным.
Это и будет решением конфликта интересов между властью и управлением, на который, в частности, указывал
schegloff. 