И.В. Данилевский, Закон Ципфа-Парето, новые квантовые технологии и философия бессознательного

В процессе выборов избиратели выражают свое отношение к тем или иным политическим деятелям или партиям, отдавая свой голос за того или иного кандидата или партию. Возникает вопрос – существуют ли какие-либо закономерности, описывающие распределение голосов избирателей между различными кандидатами или партиями? Если никаких закономерностей нет, то возможны любые соотношения между числами голосов, полученных кандидатами или партиями, а также между этими числами голосов и, например, явкой избирателей или числом недействительных бюллетеней. Если же существуют определенные закономерности в распределении голосов, то возможны не все варианты их распределения. На материале многих выборов в самых различных странах была выявлена статистическая связь, существующая между числами голосов, полученных на выборах различными кандидатами и партиями. Было установлено, что эта связь описывается следующей простой зависимостью:

Если по одной оси отложить в логарифмическом масштабе число голосов N(i), полученных каждым кандидатом, а по другой оси, также в логарифмическом масштабе, место i, занятое тем же кандидатом в ходе выборов, то полученные точки с достаточным приближением располагаются вдоль прямой линии:

ln N(i) = A - B x lni (1)

Справедливость приведенного уравнения была подтверждена в серии работ российских специалистов по математической политологии (Собянин, Суховольский, 1995), выполнивших анализ результатов выборов народных депутатов России в 1990 году, выборов Президента России в 1991 и 1996 годах, а также данных о выборах в ряде стран, начиная с выборов президента Франции в 1848 году, где победил Луи-Наполеон Бонапарт.

Этот математический результат нетривиален по своей природе. Специалистам – физикам, химикам, металлургам, демографам, экологам и представителям многих других областей знания, имеющих дело с большими массивами статистических данных, хорошо известно, что указанная численная закономерность носит общий характер и описывает ситуацию "свободной конкурентной борьбы" за распределение конечного количества каких-либо условных "благ". Оказывается, все мыслимое многообразие объектов, ситуаций и причинно-следственных связей не меняет характера этой зависимости: коль скоро имеется свободная конкуренция, ее результаты в любом случае укладываются на "логарифмическую прямую" – меняются лишь константа A и крутизна наклона прямой B. И наоборот: коль скоро имеются отклонения от условий свободной конкуренции, точки неминуемо отклоняются от прямой – и тем дальше, чем значительнее "факторы несвободы". Так, например, "конкуренция" городов за численность проживающего в них населения приводит в цивилизованных странах именно к такой зависимости. Между тем, в СССР такие города, как Москва, Ленинград и некоторые другие центры значительно отклонялись от "прямой свободной конкуренции" – вследствие административных ограничений, связанных с паспортным режимом. Аналогичным образом, свободная конкуренция приводит к той же зависимости между размерами крупнейших состояний и "местом", занимаемым их владельцами в списке таких состояний – разумеется, в тех частях света, где такие списки существуют. В точности таков же известный зоологам закон распределения хищников по массе (при отсутствии антропогенных факторов), и т.д.

Впервые закономерности этого рода установил итальянский социолог и математик В.Парето, занимаясь распределением жителей страны по величине их богатства; впоследствии к подобным же выводам пришел американский лингвист Дж.К. Ципф, изучая распределение частоты употребления слов в текстах. Различные варианты написанного выше соотношения носят название закона Ципфа – Парето. Методы анализа, связанные с изучением ранговых распределений, получили широкое распространение в лингвистике, наукометрии, экологии. Соблюдение соотношения (1) для избирательного процесса означает, что существует "свободная конкуренция" всех кандидатов, имеющих возможность беспрепятственно объяснять избирателям свои политические взгляды и политическую платформу.

Выполнение закона Ципфа – Парето для избирательного процесса означает, что каждый из кандидатов, каждая из партий и политических групп избирателей, голосующих по определенному типу, обладает своей собственной политической платформой, не перекрывающейся со всеми остальными. Имеющиеся кандидаты должны перекрывать все возможные предпочтения, имеющиеся у избирателей; тогда доля избирателей, ищущих свой выбор вне предлагаемого списка кандидатов, достаточно мала, и уравнение (1) с высокой точностью описывает распределение голосов избирателей. В противном случае в распределении (1) могут возникнуть пустые "ниши", и весь анализ усложняется.

Расчет параметров A и B, входящих в уравнение (1), производится по данным о численности избирателей, голосовавших за разных кандидатов или за разные политические группы, с помощью методов регрессионного анализа. Параметр A в уравнении (1) представляет собой логарифм числа избирателей, отдавших свои голоса за кандидата-лидера. Величина B – коэффициент предпочтения – характеризует наклон прямой (1) и служит численной мерой однородности выбора избирателей. Если B = 0, это означает, что у избирателей нет никаких предпочтений одних партий или кандидатов перед другими, и что все они получили на выборах одинаковое число голосов. Напротив, при больших значениях крутизны B партии-аутсайдеры получают очень мало голосов по сравнению с партиями-лидерами (однако, на практике параметр B почти никогда не бывает больше единицы). Если же замечаются отклонения от прямой типа (1), то при сделанных выше предположениях это указывает на отсутствие условий свободной политической конкуренции. Это может быть вызвано либо наличием каких-то дополнительно действующих внешних факторов, например, запугивания избирателей возможными политическими и экономическими репрессиями в случае голосования (или неголосования) за того или иного кандидата, либо прямой фальсификацией результатов выборов при подсчете голосов в избирательных комиссиях разного уровня. На рисунке 2 приведен типичный график рангового распределения численности голосовавших на выборах в России. Как можно видеть, между численностями различных групп избирателей и рангами этих групп (т.е. местами кандидатов) в логарифмических координатах (по обеим осям) практически наблюдается линейная связь.

Тип распределения голосов, поданных за различных кандидатов или партии, помогает выявить фальсификацию результатов выборов. В простейшем случае фальсификации, если в урны подброшено какое-то число бюллетеней, заполненных в пользу какого-то кандидата или партии, то оказывается, что ранговое распределение числа голосов, поданных за отдельных кандидатов, не изображается прямой. Но если исключить данные о кандидате, в пользу которого проводились фальсификации, то для остальных кандидатов (или партий) ранговое распределение будет соответствовать теоретическому. В рассматриваемом случае можно оценить число подброшенных бюллетеней по разнице между числом голосов, полученных таким кандидатом по официальным данным, и числом, найденным из уравнения рангового распределения после исключения данных, относящихся к упомянутому кандидату. На рисунке 3 приведено распределение голосов, поданных – по данным избирательной комиссии – за кандидатов на должность главы администрации Липецкой области на выборах, состоявшихся весной 1993 года. Это распределение очевидным образом далеко от прямой. В этом случае суд, прошедший в 1995 году, подтвердил наличие фальсификаций в пользу кандидата, занявшего первое место.

Джордж Ципф

Основным источником информации в интернете являются тексты. Естественно, что и продвижение сайтов в поисковые ТОПы по большей части связано с правильным написанием подобного контента. Но написать текст мало – надо еще и оформить его согласно разнообразным SEO правилам и рекомендациям. Из них можно выделить наиболее популярные и всеми используемые:

  • Минимум тошноты, воды и спама.
  • Правильная структура размещаемого материала (заголовки, списки).
  • Вписывание ключей.

Это все азы, поэтому их использует большая часть оптимизаторов. Но сайтов на просторах интернета становится все больше, поэтому некоторые из их владельцев ищут другие варианты для успешности продвижения своего продукта. И здесь часть из них вспоминают про некий закон Ципфа. Но мало того, что они начинают затачивать собственные сочинения под сервис, работающий на основе утверждений английского ученого, жившего хрен знает сколько лет назад, так они еще и заставляют наемных копирайтеров ломать себе голову над ним!

Но доктор Айтупит бдит, поэтому, аки Черный Плащ, спешит на помощь интернет писакам, чтобы разобраться с эффективностью данного метода по продвижению сайтов в Топы самых известных поисковиков.

Проверка по закону Ципфа

По сути, только две важнейших характеристики:

  • Тошноту проверяемого контента.
  • Естественность.

Первый минус этого продукта заключается именно в показателях тошноты: разработчики явно не учли, что существует классическая и академическая вариация этой SEO характеристики. А большинству людей, работающих в этой сфере, известно, что для снижения показателей каждого из вариантов используются совершенно разные способы (об этом доктор Айтупит постарается рассказать в одной из следующих своих ). Но «Ципфо-сервис» не сообщает об этом своим пользователям, что иногда может привести к некоторым затруднениям. Не буду долго мучить и скажу, что в данном случае подразумевается только классическая тошнота.

Переходим к «Естественности». Что оно такое? Я долго искал адекватную информацию по этому вопросу. Но нашел только постоянное переписывание каких-то заумных слов, понять смысл которых невозможно без пары бутылок пива. Нет, конечно, может быть я и тупой, но каждый из вас способен понять это:

«..эмпирическая закономерность распределения частоты слов естественного языка: если все слова языка (или просто достаточно длинного текста) упорядочить по убыванию частоты их использования, то частота n-го слова в таком списке окажется приблизительно обратно пропорциональной его порядковому номеру n (так называемому рангу этого слова, см. шкала порядка). Например, второе по используемости слово встречается примерно в два раза реже, чем первое, третье - в три раза реже, чем первое, и так далее..»

Эмпирическая, блин, закономерность… Это же надо было такое написать! Ну да ладно – Сатана ему не простит. Не это самое интересное! Интересно то, что автором сего изречения является американский лингвист, который жил в середине прошлого века, когда об интернете знал только Джордж Лукас и Леонид Ильич Брежнев. То есть, существуют люди, которые считают, что современные поисковики просто обязаны выполнять анализ по закону Ципфа? Пардонте, Мусье, но с хрена ли?..

Наверное, некоторые читатели после вышенаписанных слов решат, что автор сего опуса является типичным балаболом? Я постараюсь привести достойные аргументы, чтобы переубедить вас!

– Требование соответствия параметров текста закону Ципфа или, если быть точным, всяческим “сервисам”, якобы проверяющим тексты на такое соответствие – профанация чистейшей воды. Такое условие является бессмысленным как с точки зрения качества текста, так и с точки зрения его оптимизации для поисковых систем.

– Проверка по Ципфу – это сродни SEO-амулетам и фен-шую – слышал звон, да не знаю, где он. А так как в SEO вообще много псевдонаучной мистификации из-за изначальной закрытости алгоритмов поисковых систем, то проверка по Ципфу очень гармонично присоседилась к более релевантным показателям качества – плотности ключей и уникальности, результаты которых в свою очередь тоже нужно принимать постольку-поскольку.

Никаких домыслов с моей стороны – честно скоммунизженные слова, написанные по поводу данного закона!

И я готов подписаться под каждым словом Жеки с Адвего. Давайте пофантазируем. Представьте, что перед вами стоит некий автомат. Вам требуется подойти и набрать на его табло произвольную комбинацию цифр. Правильного числа никто не знает, поэтому каждый раз размер выигрыша разнится. Некоторые люди просто вводят значения и уходят, другие начинают изобретать какие-то системы: танцуют румбу, три раза плюют строго под углом в пятнадцать градусов, съедают козюльку, засохшую три дня назад и так далее. И тут одну из последних везет – он срывает куш! Почему ему повезло – хрен знает. Может просто угадал комбинацию, а может козюлька волшебная была. Но на следующий день этот человек приходит к автомату и устанавливает рядом столик, за которым предлагает всем желающим обязательно попробовать перед набором цифры его методику…

Все равно не убедил? Тогда воспользуюсь тяжелой артиллерией – проведу эксперимент.

Наглядная проверка текста по закону Ципфа

Для предстоящей работы я решил взять несколько разных ключевых фраз и проверить тексты на соответствие закону Ципфа, расположенные в разных местах ТОПа нашей отечественной поисковой системы Yandex. Приступим.

Первый ключ – «Строительство домой из бруса».

Выбираю сайт, который расположен вверху поискового рейтинга, делаю анализ:

Что имеем: естественность – 80, тошнота – 5.9.

Перехожу на страницу ниже в поисковике, выбираю сайт из третьего десятка, провожу анализ:

Результат: естественность – 82, тошнота – 6.16.

Опускаюсь на десяток позиций ниже и повторяю процедуру:

Итог: Е – 86, Т – 8.6.

Но в ТОПе то другое стоит! Мало? Повторяем проверку. Берем следующий ключ. Допустим – лечение геморроя.

Результат: Е – 70, Т – 11.23.

Ниже на два десятка позиций:

Итог: Е – 91, Т – 4.90.

Еще на страницу ниже:

Результат: Е – 91, Т – 4.12.

Заключение

Как видно из проведенного анализа, лучшие показатели естественности текстовых материалов по закону Ципфа совершенно не дают гарантию на успешность конкуренции с текстами, расположенными на других интернет-ресурсах. Впрочем, решать все равно вам…


Всем привет! В последнее время все чаще от коллег слышу о требовании в ТЗ оценивать качество текста по закону Ципфа. И далеко не все понимают, как нужно редактировать текст под этот закон. В сегодняшней статье попробую рассказать, как наиболее простым способом улучшить параметр, а также уточню почему хорошим авторам на самом деле это не нужно.

Определить качество текста по закону Ципфа можно по нескольким сервисам. Но, наиболее адекватным я считаю PR-CY, тут сочетается правильная формула с простым и понятным интерфейсом. Именно его я и использовал при подготовке этого материала.

Что такое закон Ципфа

Для начала стоит разобраться, что это такое. Если верить Википедии, сформулировал эту закономерность в 1908 году Жан-Батист Эсту, первоначально относился этот закон к стенографии. Первое известное широкой общественности применение закономерности относится к демографии, а точнее к распределению численности населения в городах, использовал ее Феликс Ауэрбах.

Современное название закономерность получила в 1949 году благодаря лингвисту Джорджу Ципфу. Он показал с ее помощью градацию распределения богатства среди населения. И только потом закон стали применять для определения читабельности текстов.

Как рассчитывается

Чтобы правильно использовать этот закон нужно понимать, как он работает. Разберем формулу для расчета.

  • F – частота использования слова;
  • R – порядковый номер;
  • C – постоянная величина (число обозначающее самое большое по количеству повторов слово).

На практике более удобной оказывается другая формула, она выглядит понятнее.

Удобнее такой подход так как у нас есть данные по числу повтора максимально распространенного слова. Именно от этого количества и отталкиваются.

Если упростить, то в нашем тексте второе по повторяемости слово должно встречаться в два раза реже, чем первое. Идущее на третьем месте, в три раза и так далее.

Пример подгонки текста

С теорией немного разобрались. Осталось разобраться с практикой. В качестве подопытного текста взял статью из Т-Ж. Почему именно оттуда? Все просто. На текущий момент это один из лучших образчиков любимого многими инфостиля. Ну, и было интересно, что покажет текст, написанный под руководством Максима Ильяхова. Скажу сразу, тексты по этому показателю на уровне, хотя, перелопатив более 40 сайтов вообще не нашел ни одной статьи с плохой естественностью. Также, сразу забегу вперед и скажу, что подопытный текст после подгонки стал намного хуже, несмотря на улучшенный показатель по Ципфа, не стоит сильно заморачиваться по чрезмерному повышению естественности.

Вот что нам показал анализатор после проверки.

Разберем, что там указано. Как видим есть столбец со словами, а также непонятные цифры. В столбце «вхождения» (1) указано сколько раз встречаются словоформы в тексте. В столбце «по Ципфу» (2) рекомендованное количество вхождений. Маркерами 3 и 4 помечены идеальные показатели для второй и третьей позиции. Также стоит обратить внимание на рекомендации, здесь указано сколько слов нужно убрать для достижения идеального сочетания.

Для большего понимания разберем, что насчитал анализатор. За основу возьмем цифру 39 (C), также нам понадобится порядковый номер, обратим внимание на 2 (F) позицию. Берем формулу.

Подставляем.

F=39/2=19,5

Округляем в большую сторону и получаем 20, это и будет необходимым количеством вхождений. Что подтверждает и анализатор. У нас же второе по популярности слово употребляется 28 раз, соответственно 8 повторов нужно будет удалить или заменить.

Разобравшись с принципом работы закона начинаем редактировать. Для этого удаляем или заменяем на синонимы слова, у которых больше вхождений, чем это требуется по Ципфа. В результате получаем вот такую картину.

Как видите, мне удалось увеличить показатель с 83% до 88%. Но, при этом значительно пострадало качество текста. Не стоит стремиться к увеличению этого показателя до 100%. По факту, если у вас уже есть 75%, это отлично и дальше извращаться не стоит.

Полезный совет

Уделяйте внимание не только первым строчкам. Начинайте подгонку с последних позиций в списке, они зачастую оказывают большее влияние на общий показатель, чем первый десяток слов.

Ципфа и SEO

Теперь перейдем к тому, зачем требуется знание этой закономерности копирайтеру. Сеошники заказывая тексты стремятся сделать их наиболее удобными для поисковых систем. Считается (правда, непонятно кем), что закон Ципфа активно используется поисковыми алгоритмами. Доказать или опровергнуть это утверждение сложно. Никаких вменяемых исследований и экспериментов на эту тему мне найти не удалось.

Решил проверить самостоятельно. Для этого взял выдачу по такому конкурентному запросу «пластиковые окна», в Яндексе бралась московская выдача, в Гугле пришлось поколдовать, и он меня вроде тоже определил, как жителя столицы (по крайней мере рекламу мне показал с московской геолокацией). Брал первую страницу выдачи, плюс 49 место. Получилась вот такая табличка.

Если посмотреть внимательнее, можно обратить внимание, в Яндексе выдача более ровная, если смотреть на исследуемую нами закономерность. Но, при этом более высокий показатель не гарантирует победы в борьбе за первое место в топе.

На основании этого можно сказать, если поисковики и применяют данный закон, является он только одним из факторов. И не основным.

Выводы

Ну, вот и все. Теперь вы знаете, что такое качество текста по закону Ципфа, а также можете корректировать этот показатель. На самом деле тут нет ничего сложного, все достаточно просто. Достаточно один раз понять принцип работы этой закономерности.

слов естественного языка : если все слова языка (или просто достаточно длинного текста) упорядочить по убыванию частоты их использования, то частота n -го слова в таком списке окажется приблизительно обратно пропорциональной его порядковому номеру n (так называемому рангу этого слова, см. шкала порядка). Например, второе по используемости слово встречается примерно в два раза реже, чем первое, третье - в три раза реже, чем первое, и так далее.

История создания [ | ]

Автором открытия закономерности является французский стенографист (фр. Jean-Baptiste Estoup ), который описал её в 1908 году в работе «Диапазон стенографии» . Закон был впервые применён для описания распределения размеров городов немецким физиком Феликсом Ауэрбахом в работе «Закон концентрации населения» в 1913 году и носит имя американского лингвиста Джорджа Ципфа , который в 1949 году активно популяризировал данную закономерность, впервые предложив использовать её для описания распределения экономических сил и социального статуса .

Объяснение закона Ципфа, основанное на корреляционных свойствах аддитивных марковских цепей (со ступенчатой функцией памяти) было дано в 2005 году .

Закон Ципфа математически описывается распределением Парето . Является одним из базовых законов, используемых в инфометрии .

Приложения закона [ | ]

Джордж Ципф в 1949 году впервые показал распределение доходов людей по их размерам: самый богатый человек имеет вдвое больше денег, чем следующий богач, и так далее. Это утверждение оказалось справедливым для ряда стран (Англия, Франция, Дания, Голландия, Финляндия, Германия, США) в период с 1926 по 1936 год.

Этот закон также работает в отношении распределения городской системы: город с самым большим населением в любой стране в два раза больше, чем следующий по размеру город, и так далее . Если расположить все города некоторой страны в списке в порядке убывания численности населения, то каждому городу можно приписать некоторый ранг, то есть номер, который он получает в данном списке. При этом численность населения и ранг подчиняются простой закономерности, выражаемой формулой :

P n = P 1 / n {\displaystyle P_{n}=P_{1}/n} ,

где P n {\displaystyle P_{n}} - население города n -го ранга; P 1 {\displaystyle P_{1}} - население главного города страны (1-го ранга).

Эмпирические исследования подтверждают данное утверждение .

В 1999 году экономист Ксавье Габэ описал закон Ципфа как пример степенного закона : если города будут расти случайным образом с одинаковым среднеквадратичным отклонением, то в пределе распределение будет сходиться к закону Ципфа .

Согласно выводам исследователей по отношению к городскому расселению в Российской Федерации , в соответствии с законом Ципфа :

  • большинство городов России лежит выше идеальной кривой Ципфа, поэтому ожидаемая тенденция - продолжение сокращения численности и людности средних и малых городов за счёт миграции в крупные города;
  • соответственно 7 городов-миллионников (Санкт-Петербург, Новосибирск, Екатеринбург, Нижний Новгород, Казань, Челябинск, Омск), находящиеся ниже идеальной кривой Ципфа, имеют существенный резерв роста населения и ожидают прирост населения;
  • существуют риски депопуляции первого города в ранге (Москвы), поскольку второй город (Санкт-Петербург) и последующие крупные города сильно отстают от идеальной кривой Ципфа в связи со снижением спроса на рабочую силу при одновременном росте стоимости проживания, включая, прежде всего, стоимость покупки и аренды жилья.

Критика [ | ]

Американский специалист по биоинформатике предложил статистическое объяснение закона Ципфа, доказав, что случайная последовательность символов также подчиняется этому закону . Автор делает вывод, что закон Ципфа, по-видимому, является чисто статистическим феноменом, который не имеет отношения к семантике текста и имеет поверхностное отношение к лингвистике.