Обычно мы думаем о взломе как о чем-то, что делается с компьютерами. Но любую систему правил можно взломать. Возьмем в качестве примера налоговый кодекс. Это не компьютерный код, но он представляет собой серию правил, алгоритмов. У него есть уязвимые места – их называют лазейками.
И есть индустрия черных хакеров, которые находят уязвимости, которые можно использовать. Которых мы называем налоговыми юристами и бухгалтерами.
Итак, что такое взлом? Взлом – это то, что разрешено системой, но непредвиденно и нежелательно для разработчиков. Это субъективный термин, который включает в себя понятие новизны и ума. Это эксплуатация или диверсия.
Взломы следуют правилам системы, но подрывают ее цели или намерения. Они охватывает взломы компьютерных, социальных, политических и экономических систем (например, налогового кодекса). Экономики, систем принятия законов или систем избрания лидеров.
Все системы могут быть взломаны. Даже самые продуманные своды правил будут неполными и непоследовательными. У них будут неясности. Пока есть люди, которые хотят подорвать цели системы, будут и взломы.
Например, в 1975 году на гоночной трассе Формулы-1 появилась команда на шестиколесном автомобиле. Все думали, что это против правил. Но оказалось, что в своде правил ничего не сказано о том, сколько колес может быть у автомобиля.
Финансовые биржи регулярно взламываются: инсайдерская торговля, опережение, высокочастотная торговля.
Хаки часто нормализуются
Когда мы думаем о взломах, мы думаем о них как о быстро блокируемых системными разработчиками. Это верно для компьютерных систем, но с другими системами процесс зачастую более длительный и формальный.
Взлом обнаружен. Он используется. Он становится более популярным. Правящая система узнает об этом и делает одно из двух. Она либо меняет систему, чтобы предотвратить взлом. Либо внедряет взлом в систему, чтобы взлом стал новой нормой.
Многие вещи, которые мы считаем нормальными, начинались как взлом.
Руководящий орган гонок Формулы-1 обновил свод правил, запретив использование более или менее четырех колес на автомобиле. Но многие вещи, которые мы считаем нормальными, начинались как взломы.
Рассмотрим хаки по банковскому делу и финансам. Хедж-фонды полны взломов, и большинство из них стали новой нормой. Или подумайте о взломах политических систем.
Флибустьер – это хак, изобретенный римским сенатором в 60 г. до н. э. (пират, действовавший под защитой разрешительной грамоты какого-либо государства).
Взломы совершаются богатыми и влиятельными
Обычно мы думаем о взломе как о чем-то, что беспомощные делают против мощных систем. Но Агентство национальной безопасности США, вероятно, является самым эффективным хакером в мире. У них есть бюджет, экспертиза, и для них все “законно”.
Гораздо чаще богатые взламывают системы в своих интересах. Богатые лучше способны обнаруживать лазейки. Потому что они могут выделить больше ресурсов для этой задачи. Они лучше умеют использовать хаки, чтобы их использовать. И их уловки, с большей вероятностью станут нормой.
Подумайте о компаниях гиг-экономики, взламывающих местные правила, таких как Яндекс Такси и Airbnb.
Взлом – это то, как системы развиваются и адаптируются
Когда они действительно работают, они имеют неожиданные результаты. И это может быть положительным. Взломы объявляются законными или незаконными руководящими органами спорта, налоговыми органы или правительствами. Системы могут развиваться таким образом.
Есть много способов, которыми наблюдательные люди взламывали наш 2000-летний свод законов. Чтобы они функционировали в современную эпоху. Это пример эволюции системы.
Этот процесс упрощается, если есть один ответственный руководящий орган. Например администраторы гонок Формулы-1. Или авиакомпания, сталкивающаяся со взломом часто летающих пассажиров. Или Microsoft, борющаяся со взломом программного обеспечения.
Если нет руководящего органа, нам нужны альтернативные способы, которыми общество может судить о взломе. Одной из таких альтернатив является судебная система.
Эволюция через взлом может быть быстрее и эффективнее. Она включает противника в систему, и при правильном использовании взлом ускоряет развитие.
Компьютеры ускоряют взлом общества
Люди взламывали системы тысячи лет, но в последнее время все изменилось. Компьютеры являются частью многих человеческих взаимодействий, и эти компьютеры могут быть взломаны напрямую.
Таким образом, взлом компьютерных систем слился со взломом социальных систем. И это во многом влияет на эти системы. Технические и социальные изменения происходят быстрее, когда это делают компьютеры.
Масштаб также больше: величина этих эффектов больше, поэтому воздействие и потенциальный вред больше.
ИИ и робототехника сделают все еще хуже, особенно при ИИ в роли хакера. ИИ будут взламывать наши системы так же, как это делают люди. Уже сейчас машинное обучение находит уязвимости в компьютерном коде.
Есть история про Фольксваген. Volkswagen был уличен в мошенничестве на тестах по контролю за выбросами. Это был не идентифицированный компьютером взлом, а взлом, идентифицированный человеком. Инженеры Volkswagen запрограммировали свой двигатель так, чтобы он распознавал тест на контроль выбросов. И вел себя по-другому при тестировании. Этот хак оставался нераскрытым около десяти лет.
Представьте, что какая-то система искусственного интеллекта получает задание максимизировать производительность двигателя. И она придумывает этот хак самостоятельно. Мы можем не узнать об этом никогда. Потому что не знаем компьютерного кода.
Нам нужно выяснить, как использовать хакерство для социального прогресса, не разрушая при этом общество. Взломы становятся все более распространенными. Теперь это самый быстрый способ модифицировать системы и получить преимущество.
В заключении
Как мы создаем управляющие системы, которые могут быстро выносить решения о взломе? Можем ли мы разработать структуру, которая может решать, когда полезно предотвращать или поощрять взлом?
Можем ли мы создать более демократичную хакерскую среду, в которой у всех есть равные возможности взламывать системы. И чтобы эти взломы были нормальными, а не работающими лишь в отношении бизнеса и власти?
