Частотные словари - это словари, в которых содержатся числовые характеристики употребительности слов; слова в них располагаются в зависимости от частоты употребления слов в текстах определённой длины. Этот сравнительно новый тип лексикографических изданий в последние годы стал особенно активно развиваться в связи с внедрением в лексикографию новых технологий.

Частотные словари дают большой материал для решения ряда общетеоретических и прикладных лингвистических проблем, они необходимы при составлении учебных словарей, при разработке учебников, лингвометодической адаптации текстов.

Первым в отечественном языкознании частотным словарём был «Частотный словарь современного русского литературного языка» Э.А. Штейнфельдт, составленный по материалам современной литературы, прессы, радиопередач (50-60-е гг. XX в.) и адресованный в первую очередь преподавателям русского языка как неродного. В нём представлены данные о частотности слов, полученные на основе обработки текстов объёмом в 400 000 слов. В словаре содержатся слова, покрывающие до 80% различных текстов. Кроме обычных указаний на количество употреблений, приводится количество текстов, в которых данное слово отмечено. Даются статистические характеристики некоторых морфологических категорий. Словарь Э.А. Штейнфельдт послужил основой для составления многих учебных толковых словарей и словарей-минимумов.

«Частотный словарь русского языка» под редакцией Л.Н. Засо- риной представляет собой свод статистических данных о лексическом составе современного русского языка. Словарь был составлен на основе обработки средствами вычислительной техники 1 млн словоупотреблений; он охватывает не только язык художественной литературы, но также публицистическую и деловую речь, бытовавшую в сфере массовой коммуникации. Хронологические рамки словаря, как отмечают составители, «обнимают эпоху от произведений Ленина и Горького до 60-х годов», поэтому исследователи получают ценный материал для изучения лексики советской эпохи. Алфавитно-частотный словник включает все лексемы, встретившиеся в текстах, каждая лексическая единица снабжена количественными характеристиками. Частотный словник содержит слова с частотой 10 и выше, всего 9044 единицы, расположенные в порядке убывания частот. Разнообразные статистические характеристики единиц словаря создают основу для изучения статистической структуры словарного состава русского языка, для определения границ основной лексики. В приложении приводится имеющий большое практическое значение перечень омографов и грамматических омонимов.

Современные базы данных дали мощный импульс развитию частотных словарей. «Частотный словарь современного русского языка» О. Н. Ляшевской и С. А. Шарова основан на коллекции текстов Национального корпуса русского языка, представляющих современный русский язык периода 1950-2007 гг. Объём выборки, на которой построено большинство разделов словаря, составляет 92 млн словоупотреблений. В словаре содержится разнообразная статистическая информация о 50 000 нарицательных и 3000 собственных имён и аббревиатур. Приводятся частотные списки лексики, характерной для публицистики, устной речи и других функциональных стилей, а также списки наиболее употребительных существительных, прилагательных, глаголов и слов других частей речи. Электронная версия словаря опубликована на сайте Института русского языка им. В. В. Виноградова Российской академии наук (http://dict.ruslang.ru).

Проект «Частотного словаря словоформ русского языка» А. В. Вен- цова и Е. В. Грудевой представляет собой первую в истории составления частотных словарей русского языка попытку организовать по частоте встречаемости не лексемы, а акцентно размеченные словоформы. Словарь составлен на основе одномиллионного Корпуса русского литературного языка (www.narusco.ru). В проекте представлено полное описание словаря и его основные разделы в виде ограниченных выборок.

В «Частотном тематическом словаре „Городской общественный транспорт 44 » Г.А. Мартиновича представлены результаты дистрибутивно-статистического анализа одной понятийной области - 74 521 000 словоупотреблений, извлечённых из корпуса российских газет отдела машинного фонда русского языка Института русского языка им. В. В. Виноградова, и 29 500 примеров из текстов 9 российских газет за 1997 г.

Многие частотные словари носят прикладной характер и адресованы в первую очередь составителям программ, словарей-минимумов, учебных пособий по русскому языку. Одни из них фиксируют общеупотребительную лексику, другие связаны со специальной или жанрово и стилистически закреплённой частью словарного состава.

«Частотный словарь современного русского языка» П.И. Хара- коза состоит из двух частей, представляющих собой два различных частотных словаря, выполненных на различном речевом материале: один на текстах учебников начальных классов, другой - на материале детской разговорной речи. В первой части представлено 5025 слов, составляющих 91,6% всех словоупотреблений в 15 учебниках. Слова представлены в частотных и алфавитных списках. Во второй части представлено 2830 слов бытовой детской разговорной речи, расположенных по частоте и по алфавиту.

Словник «2830 слов, наиболее употребительных в русской разговорной речи» отражает ядро наиболее употребительных слов современной разговорной речи; он составлен на основе анализа живой разговорной речи, записанной на магнитную плёнку (в 1964-1966 гг.). Общий объём собранного материала 400 000 словоупотреблений. Список представлен в двух вариантах - по алфавиту и по распространённости.

«Список наиболее употребительных слов русского языка» под редакцией З.П. Даунене включает слова первой тысячи 13 частотных словарей и списков русского языка, составленных на основе разнообразных материалов. Список насчитывает 3917 слов, включает как знаменательные, так и служебные слова. Рядом с каждым словом указываются источники, в которых оно зафиксировано, и количество этих источников, что даёт возможность выделить наиболее употребительную лексику.

В «Частотный словарь языка газеты» Г.П. Поляковой и Г.Я. Солга- ника оказались включёнными 1997 слов, имеющих частоту не менее 12 в газетных те кетах длиной 200 000 словоупотреблений. В словаре представлен общий список слов по убывающей частоте, покрывающий в среднем 80-83% газетного текста.

«Комплексный частотный словарь русской научной и технической лексики» П.Н. Денисова и др. содержит списки 3047 наиболее употребительных слов русской научной и технической литературы (частотный, алфавитный, инверсионный, с группировкой по частям речи), а также таблицы, позволяющие судить о распространённости тех или иных грамматических явлений в языке научно-технической литературы.

«Частотный словарь общенаучной лексики» включает 2074 слова. В основу словаря положен текст в 400 000 слов (словоформ). Источниками послужили учебники для вузов шести отраслей знания: математики, физики, химии, биологии, медицины, геологии с географией. Из каждого источника брался один отрывок объёмом в 2000 словоформ. Было обследовано 200 таких выборок. Слова представлены в частотных и алфавитных списках.

Изданием сводного, обобщающего типа является книга «Лексические минимумы русского языка», созданная под редакцией В. В. Морковкина. Открывается словарь списком «Основные структурные лексические единицы русского языка», который объединяет неполнозначные слова и словосочетания, обеспечивающие функционирование полнозначных слов и формирующие модальную структуру текста (например, бывать, в виде, ввиду, как раз, как только, кроме того, собственно, таким образом, хотя, целый и т.п.). Далее следуют перечни слов нарастающего объёма, охватывающие лексическое ядро современного русского языка: 1) 500 самых употребительных русских слов, 2) 1000 самых употребительных русских слов, 3) 1500 слов, 4) 2000 слов, 5) 2500 слов, 6) 3000 слов, 7) 3500 слов. Третья часть книги представляет собой тематический словарь-минимум современного русского языка, цель которого - целесообразно организовать и представить совокупности важнейших русских слов, необходимых для обеспечения продуктивных видов речевой деятельности - говорения и письма. Важную часть книги составляет раздел, представляющий сравнительную и обобщённую ценность наиболее употребительных слов русского языка по данным 8 частотных словарей. Таким образом, словарь является ценным пособием для методистов и преподавателей русского языка, занимающихся составлением учебных пособий, книг для чтения, готовящих практические материалы для учебной работы.

Особое место среди частотных словарей занимают словари, которые могут быть использованы в автоматических информационнопоисковых системах. Так, «Частотный словарь индексирования» (под редакцией Л. В. Сахарного) составлен для решения информационнопоисковых задач. Материалом для словаря послужили 1660 рефератов по электроизмерительным приборам (всего около 105 тыс. словоупотреблений). Принципы составления словаря приложимы к любой отрасли знаний. В основу словаря положена новая для лексикографии единица - гиперлексема (некоторое множество однокоренных лексем одной или разных частей речи, связанных между собой отношениями трансформации, производности: инерция, инерционный, инерционность ; зуб, зубец, зубчатый, зубцовый). В словаре гиперлексемы расположены по степени частотности.

«Частотный словарь семантических множителей русского языка» Ю.Н. Караулова составлен по материалам определений в толковых словарях современного русского литературного языка. Единицами счёта в нём являются семантические множители, выступающие в виде сегментов полнозначных слов, являющихся компонентами дефиниций. Отражая статистическую и семантическую структуру правой части толковых словарей, частотный словарь может использоваться для исследований в области лексической семантики, а также в практике лексикографии и информационного поиска. Во вступительной статье показаны возможности применения словаря для нахождения смысловой связи слов при автоматическом построении русского тезауруса.

«Частотный словарь языка массовой коммуникации» Б. В. Кривенко является первым опытом частотного словаря, построенного на материале не только письменных текстов (газета «Комсомольская правда», районные газеты), но и звучащей речи (радио, телевидение, кинохроника). Словарь даёт синхронный срез лексического уровня языка газеты, информационных передач радио и телевидения за 1965-1985 гг. Общая длина текстовой выборки 71 164 словоупотребления. В словаре представлены списки слов по убыванию частотности, списки слов по алфавиту. Первые места в списке наиболее частотных слов (за исключением служебных слов и местоимений) занимают слова год, работа, страна, день, колхоз, дело, время, партия, новый, совет, рабочий, советский, народ, район, сегодня, город, организация, человек, председатель, секретарь, большой, область, имя, мир, республика, план. Частотность слов в языке средств массовой информации прекрасно отражает особенности советского политического дискурса, набор идеологем советского времени. «Статистический словарь русской газеты» А.Я. Шайкевича и др. даёт представление о частотности лексики в газетах 90-х гг. XX в. Эти же цели преследует словарь О. В. Голованя.

Исследование частотности лексических единиц позволяет сделать важные выводы об особенностях языка и стиля писателя. Неслучайно в последние годы издано большое количество частотных словарей языка художественных произведений русских писателей и поэтов (см. раздел «Авторские словари»).

Венцов Л.В., Грудева Е.В. Частотный словарь словоформ русского языка: проект. Череповец: Череповец, гос. ун-т, 2008. 204 с.

Голованъ О. В. Частотный словарь современного языка средств массовой информации: учебное пособие . Барнаул: Изд- во Алт. гос. техн. ун-та им. И.И. Ползунова, 2006. 622 с.

Граудина Л.К., Ицкович В.А., Катлинская Л.П. Грамматические варианты: опыт частотного словаря / Рос. акад. наук, Ин-т лингв, ис- след. М.: Наука, 1971. 102 с.

Денисов П.Н., Морковкин В.В., Сафьян Ю.А. Комплексный частотный словарь русской научной и технической лексики . М.: Русский язык, 1978. 406 с.

Караулов Ю.Н. Частотный словарь семантических множителей русского языка / отв. ред. С.Г. Бархударов. М.: Наука, 1980. 207 с.

Комплексный учебный словарь. Лексическая основа русского языка: / В. В. Морковкин, Н.О. Бёме, И.А. Дорогонова, Т.Ф. Иванова, И.Д. Успенская; под ред. В.В. Морковкина. М. : ACT, 2004. 880 с. .

Кривенко Б. В. Частотный словарь языка массовой коммуникации. Воронеж: Изд-во Воронеж, ун-та, 1992. 218 с.

Кудашева М.А., Левина Р.И. Частотный словарь наиболее употребительных причастий по геологии, минералогии, кристаллографии, геодезии: учебное пособие. Л. : Ленингр. горный ин-т им. Г. В. Плеханова, 1974. 29 с.

Лексические минимумы современного русского языка / В. В. Морковкин, Ю.А. Сафьян, Е.М. Степанова, И.В. Дорофеева; под ред. В. В. Морковкина; Ин-т рус. яз. им. А.С. Пушкина. М. : Русский язык, 1985. 608 с.

Лексический минимум по русскому языку как иностранному: базовый уровень: общее владение / сост. Н.П. Андрюшина, Т.В. Козлова.

4-е изд., испр. и доп. СПб.: Златоуст, 2004. 111 с. (Тест по русскому языку как иностранному). [То же в 2001 г.].

Лексический минимум по русскому языку как иностранному: второй сертификационный уровень: общее владение / сост. Н.П. Андрюшина (отв. ред.) [и др.]. 3-е изд. СПб. : Златоуст, 2011. 162 с. (Российская государственная система тестирования граждан зарубежных стран по русскому языку). [То же в 2009 г.].

Лексический минимум по русскому языку как иностранному: первый сертификационный уровень: общее владение / сост. Н.П. Андрюшина (отв. ред.) [и др.]. 5-е изд., испр. и доп. СПб.: Златоуст,

2011. 195 с. (Российская государственная система тестирования граждан зарубежных стран по русскому языку). [То же в 2002, 2005 гг.].

Лексический минимум по русскому языку как иностранному: элементарный уровень: общее владение / сост. Н.П. Андрюшина, Т.В. Козлова. 4-е изд., испр. СПб. : Златоуст, 2012. 79 с. (Тест по русскому языку как иностранному). [То же в 2000, 2004 гг.].

Ляшевская О.Н., Шаров С. А. Частотный словарь современного русского языка (на материалах Национального корпуса русского языка) [статистическая информация о 50 000 нарицательных и 3000 собственных имён и аббревиатур] / Рос. акад. наук, Ин-т рус. яз. им. В. В. Виноградова. М.: Азбуковник, 2009. 1087 с.

Мартинович Г.А. Частотный тематический словарь «Городской общественный транспорт». СПб. : Филол. фак. С.-Петерб. гос. ун-та,

Полякова Г.П., Солганик Г.Я. Частотный словарь языка газеты . М.: Изд-во Моек. гос. ун-та, 1971. 281 с.

Сафьян Ю.А. Частотный словарь русской технической лексики. Ереван: Барцрагуйн дпроц, 1971. 128 с.

Система лексических минимумов современного русского языка: 10 лексических списков: от 500 до 5000 самых важных русских слов / Гос. ин-т рус. яз. им. А.С. Пушкина; сост. Т.Ф. Богачёва, Н.М. Луцкая, В. В. Морковкин, З.П. Попова; под ред. В. В. Морковкина. М.: Астрель: ACT, 2003. 768 с.

Список наиболее употребительных слов русского языка / сост. Л.Г. Вишнякова, З.П. Даунене, Т.П. Ишанова, Р.М. Нефёдова; под общ. ред. З.П. Даунене. М. : Акад. пед. наук СССР, НИИ препод. рус. яз. в нац. школе, 1974. 160 с.

Тер-Мисакянц 3. Т. Частотный словарь математической лексики / под ред. В.М. Григоряна, Р.С. Манучаряна. Ереван: Ереван, гос. ун- т, 1973. 67 с.

Харакоз П.И. Частотный словарь современного русского языка . Фрунзе: Мектеп, 1971. 180 с.

Частотный словарь геологической лексики: учебное пособие / сост. В.И. Рубкалёва, М.А. Кудашева, Е.М. Вал [и др.]; науч. ред. В.И. Рубкалёва. Л. : Ленингр. горный ин-т им. Г. В. Плеханова, 1973. 64 с.

Частотный словарь индексирования / под общ. ред. Л. В. Сахарного.

Пермь: Изд-во Перм. ун-та, 1974. 828 с.

Частотный словарь общенаучной лексики / сост. М.И. Зыкина, В.И. Крупчанова, М.М. Нахабина [идр.]; под ред. Е.М. Степановой. М.: Изд-во Моек. гос. ун-та, 1970. 87 с. Частотный словарь русского языка [около 40 000 слов] / под ред. Л.Н. Засориной; сост. В.А. Аграев, В.В. Бородин, Л.Н. Засорина, В.М. Муратова, Э.В. Тисенко; спец. науч. ред. М.И. Привалова. М.: Русский язык, 1977. 934 с.

Шайкевич Л.Я., Андрющенко В.И., Ребецкая Н.А. Статистический словарь русской газеты: (1990-е годы) / Рос. акад. наук, Ин-т рус. яз. им. В.В. Виноградова. М.: Языки славянской культуры: издатель А. Кошелев, 2008. Т. 1. 578 с. (Studia philologica).

Шилова Г.Е., Стернин И.А. Частотный словарь иноязычных слов: (по материалам публицистики) / Воронеж, гос. ун-т, Межрегион, центр коммуникатив. исслед. Воронеж: Истоки, 2005. 126 с. Штейнфельдт Э.А. Частотный словарь современного русского литературного языка: справочник для преподавателей русского языка / под ред. В.А. Ицковича. М. : Прогресс, 1973. 228 с. .

Шурпаева М.И. Дифференцированный словарь-минимум русского языка по видам речевой деятельности для начальных классов дагестанской национальной школы. Махачкала: Дагучпедгиз, 1982. 153 с.

Часто́тный слова́рь (или частотный список) - набор слов данного языка (или подъязыка) вместе с информацией о частоте их встречаемости. Словарь может быть отсортирован по частоте, по алфавиту (тогда для каждого слова будет указана его частота), по группам слов (например, первая тысяча наиболее частотных слов, за ней вторая и т. п.), по типичности (слова, частотные для большинства текстов), и т. д. Частотные списки используются для преподавания языка, создания новых словарей, приложений компьютерной лингвистики, исследований в области лингвистической типологии, и т. д.

Построение частотных списков

Обычно частотные словари строятся на основе корпусов текстов: берется набор текстов, представительный для языка в целом, для некоторой предметной области или данного автора (см. Частотный словарь Грибоедова) и из него извлекаются словоформы, леммы и части речи (последние извлекаются в случае, если корпус имеет морфологическую разметку).

Проблемы при создании частотных списков заключаются в:

• воспроизводимости (будут ли результаты идентичны на другом аналогичном корпусе),
• всплесках частоты отдельных слов (частота слова в одном тексте может повлиять на его позицию в частотном списке),
• сложности определения позиции менее частотных слов, что не дает возможности ранжировать их рационально; например, слово белиберда входит в 20 000 наиболее частотных слов, в то время, как слово хрюкнуть находится за пределами списка первых 40 тысяч.

Все эти проблемы связаны с тем, что со статистической точки зрения язык представляет собой большое количество редких событий (Закон Ципфа), в результате чего небольшое количество слов встречается очень часто, а подавляющее большинство слов имеют очень невысокую частоту. Частота слова и (самого частотного слова русского языка) примерно в 10 раз выше частоты слова о , которое в свою очередь встречается в 100 раз чаще таких обыденных слов как путешествие, старость или мода .

Для описания всплесков частоты можно использовать метафору хоббита (Адам Килгаррифф изначально использовал относительно редкое английское слово whelk, вид морского моллюска , англ. whelk ): если несколько текстов в корпусе о хоббитах, то это слово будет употребляться почти в каждом предложении. В результате его частота в этих текстах будет сравнима с частотой служебных слов, но и в частотном списке большого корпуса, в который входят такие тексты, это слово будет иметь неправдоподобно высокий ранг. Такие всплески частоты можно оценивать с помощью коэффициента вариации : отношения стандартного отклонения к средней частоте.

Сравнение корпусов

Частотные словари обеспечивают возможность сравнить два корпуса, чтобы определить слова, наиболее характерные для каждого из них. В связи с тем, что размеры корпусов могут быть различны, более надёжная оценка частоты слов основывается на приведении их к чмс (частота на миллион словоформ, англ. ipm, instances per million words ). Слово и имеет частоту около 30 000 чмс, слово старость - около 30.

Для определения набора ключевых слов, отличающих один корпус от другого можно использовать разные статистические меры: хи-квадрат , отношение правдоподобия (англ. Likelihood-ratio test ) и т. п.

См. также

Литература

• Adam Kilgarriff. Putting Frequencies in the Dictionary // International Journal of Lexicography. - 1997. - № 10(2) . - P. 135-155.
• Ляшевская О. Н., Шаров С. А.

После того как я решил подтянуть свой уровень знания английского (главным образом в плане словарного запаса), практически сразу стало очевидно, что самый эффективный способ изучения слов - исключительно по частотным словарям. Точнее, способы изучения и запоминания могут быть самые различные, но вот именно очередность, приоритетность тех или иных слов должна определяться исходя из частотных словарей.

Скажем, читаете вы книгу на английском, и через каждые 10 слов вам попадается одно неизвестное. Представьте себе, первое время я записывал каждое неизвестное слово и ежедневно все их зубрил. Но очень скоро стало ясно, что эффективность такого изучения близка к нулю - так как большинство этих слов встречаются лишь раз-два за всю книгу, а в повседневном лексиконе они могут встречаться вообще раз в год.

Именно здесь на помощь приходит частотный словарь. Идея такая: вам встречается слово, перевод которого вы не знаете. Сначала вы припоминаете: насколько часто оно вам встречается вообще? Если это слово из разряда «да, я слышал его много раз, но не знаю, как оно переводится», уверенно ставьте его на изучение и повторение. Если это слово вам встречается редко, или вы вообще его не можете припомнить, значит, самое время заглянуть в частотный словарь.

Есть такой замечательный сервис Test Your Vocabulary , который позволяет по небольшой выборке (несколько десятков слов), путём сопоставления ваших результатов с имеющимися данными статистического анализа, примерно определить ваш словарный запас. Там же имеются различные графики результатов, например, вот это распределение участников (неанглоговорящих) по словарному запасу:

Как видим, уровень словарного запаса большинства людей находится в районе 4500 слов. Медиана же распределения находится в районе 7800 слов (у половины людей словарный запас меньше, у половины - больше).

По данным других лингвистических исследований словарный запас в 6–7 тысяч слов гарантирует понимание 85% английской речи. Таким образом, можно заключить, что 6-тысячный словарь для начала может быть вполне приемлемой целью.

Итак, возвращаясь к нашему алгоритму. После того, как вы нашли совершенно неизвестное вам слово - сразу же ищите его частотном словаре. Если, например, вы задались целью увеличить свой запас не менее чем до 6000 тысяч слов, и искомое слово как раз входит в первые 6 тысяч - ставьте его на повторение.

Фактически, после изучения первых 6000 в ЧС, ваш словарный запас будет конечно же больше, за счёт тех слов, которые вы уже знаете, и которые не вошли в изученный интервал ЧС.

Ну а теперь вопрос. Где взять частотный словарь? В Гугле? Как бы не так.

Как правило, сайты по изучению английского предлагают нам только первую тысячу слов ЧС, а за более обширный словарь придётся платить. Да, первые поиски словаря хотя бы на 3000 слов вызвали у меня бурю негодования. Но потом мне всё же удалось найти весьма обширный словарь, которым, однако, невозможно было пользоваться для поиска слов: он был разбит на много страниц, а текст, кстати, был защищен от копипаста (помогает, конечно же, только в случае со школьниками или домохозяйками). Потому, чтобы нормально работать с частотным словарём, я (не без определённой доли изобретательности) выцепил со страниц код и объединил первые 6000 необходимых мне слов в одну таблицу .

Пользуйтесь на здоровье, и да здравствует свободный доступ к информации.

Update: расширил таблицу до 16000 слов . Этот словарь должен покрыть 98% английских фраз.

Примечание: в таблице пропущены некоторые номера - это имена собственные, переводить которые просто нет смысла.

Информация от спонсора

Примо4ки.com: электроника и гаджеты по низким ценам, продажа китайских телефонов . Качество гарантировано магазином.

ЧАСТОТНЫЙ СЛОВАРЬ

вид словаря (См. Словарь) (обычно одноязычного), в котором лексические единицы характеризуются с точки зрения степени их употребительности в совокупности текстов, представительных либо для языка в целом, либо для отдельного функционального стиля (См. Стиль), либо для одного автора. В зависимости от типа лексические единицы различаются Ч. с. словоформ, слов (лексем), основ слов (используются в информатике), слов в определённых значениях (семантический Ч. с.), словосочетаний. Различаются абсолютные и относительные характеристики употребительности лексической единицы (x ).Абсолютной характеристикой является частота (f ) данной лексической единицы (х ), равная числу употреблений х в обследованной совокупности текстов f (x ). В Ч. с. приводится либо f (x ), либо нормированная частота

где N - число исследованных слов текста. Относительной характеристикой употребительности лексической единицы является либо её ранг (число лексических единиц, которые в данном Ч. с. имеют абсолютную характеристику употребительности, более высокую или равную абсолютной характеристике данной лексической единицы), либо какой-либо признак, по которому ранг может быть вычислен с большей или меньшей точностью. В большинстве Ч. с. приводятся и абсолютные, и относительные характеристики. Ч. с. используются для создания эффективных методик обучения языку, для выделения ключевых слов (в информатике), для создания рациональных кодов (в теории связи).

Лит.: Ермоленко Г. В., Лингвистическая статистика. Краткий очерк и библиографический указатель, Алма-Ата, 1970; Штейнфельдт Э. А., Частотный словарь современного русского литературного языка, М., 1973; Частотный словарь русского языка, под ред. Л. Н. Засориной, М., 1977; Kučera Н., Francis W., Computational analysis of present-day American English, Providence, 1967; Kvantitativni lingvistika, Statni knihovna ČSSR, 1964-1972; Meier Н., Deutsche Sprachstatistik, Bd 1-2, Hildesheim, 1964; Dictionnaire des fréquences vocabulaire littéraire des XIX et XX siecles, v. 1- 4, P.- Nancy, 1971 (Centre de recherche pour un trésor de la langue française); Bailey R., Doležel L., An annotated bibliography of statistical stylistics, Ann Arbor, 1968.

Материал из Википедии - свободной энциклопедии

Часто́тный слова́рь (или частотный список) - набор слов данного языка (или подъязыка) вместе с информацией о частоте их встречаемости. Словарь может быть отсортирован по частоте, по алфавиту (тогда для каждого слова будет указана его частота), по группам слов (например, первая тысяча наиболее частотных слов, за ней вторая и т. п.), по типичности (слова, частотные для большинства текстов), и т. д. Частотные списки используются для преподавания языка, создания новых словарей, приложений компьютерной лингвистики, исследований в области лингвистической типологии, и т. д.

Построение частотных списков

Обычно частотные словари строятся на основе корпусов текстов: берется набор текстов, представительный для языка в целом, для некоторой предметной области или данного автора (см. Частотный словарь Грибоедова) и из него извлекаются словоформы, леммы и части речи (последние извлекаются в случае, если корпус имеет морфологическую разметку).

Проблемы при создании частотных списков заключаются в:

• воспроизводимости (будут ли результаты идентичны на другом аналогичном корпусе),
• всплесках частоты отдельных слов (частота слова в одном тексте может повлиять на его позицию в частотном списке),
• сложности определения позиции менее частотных слов, что не дает возможности ранжировать их рационально; например, слово белиберда входит в 20 000 наиболее частотных слов, в то время, как слово хрюкнуть находится за пределами списка первых 40 тысяч.

Все эти проблемы связаны с тем, что со статистической точки зрения язык представляет собой большое количество редких событий (Закон Ципфа), в результате чего небольшое количество слов встречается очень часто, а подавляющее большинство слов имеют очень невысокую частоту. Частота слова и (самого частотного слова русского языка) примерно в 10 раз выше частоты слова о , которое в свою очередь встречается в 100 раз чаще таких обыденных слов как путешествие, старость или мода .

Для описания всплесков частоты можно использовать метафору хоббита (Адам Килгаррифф изначально использовал относительно редкое английское слово whelk, вид морского моллюска , англ. whelk ): если несколько текстов в корпусе о хоббитах, то это слово будет употребляться почти в каждом предложении. В результате его частота в этих текстах будет сравнима с частотой служебных слов, но и в частотном списке большого корпуса, в который входят такие тексты, это слово будет иметь неправдоподобно высокий ранг. Такие всплески частоты можно оценивать с помощью коэффициента вариации : отношения стандартного отклонения к средней частоте.

Сравнение корпусов

Частотные словари обеспечивают возможность сравнить два корпуса, чтобы определить слова, наиболее характерные для каждого из них. В связи с тем, что размеры корпусов могут быть различны, более надёжная оценка частоты слов основывается на приведении их к чмс (частота на миллион словоформ, англ. ipm, instances per million words ). Слово и имеет частоту около 30 000 чмс, слово старость - около 30.

Для определения набора ключевых слов, отличающих один корпус от другого можно использовать разные статистические меры: хи-квадрат , отношение правдоподобия (англ. Likelihood-ratio test ) и т. п.

См. также

Напишите отзыв о статье "Частотный словарь"

Литература

• Adam Kilgarriff // International Journal of Lexicography. - 1997. - № 10(2) . - P. 135-155.
• Ляшевская О. Н., Шаров С. А. . - М .: Азбуковник, 2009. - 1087 с. - ISBN 978-5-91172-024-7 .
• Частотный словарь // Большая советская энциклопедия : [в 30 т.] / гл. ред. А. М. Прохоров . - 3-е изд. - М . : Советская энциклопедия, 1969-1978.
• Частотный словарь русского языка / Под ред. Л. Н. Засориной. - М .: Русский язык, 1977.
• // Лермонтовская энциклопедия / АН СССР. Ин-т рус. лит. (Пушкин. Дом); Науч.-ред. совет изд-ва «Сов. Энцикл.». - М .: Сов. Энцикл., 1981. - С. 717-774.
• Шаров С. А. .
• Штейнфельдт Э. А. Частотный словарь современного русского литературного языка. - М ., 1973.

Ссылки

Отрывок, характеризующий Частотный словарь

Остановленные пехотные солдаты, толпясь в растоптанной у моста грязи, с тем особенным недоброжелательным чувством отчужденности и насмешки, с каким встречаются обыкновенно различные роды войск, смотрели на чистых, щеголеватых гусар, стройно проходивших мимо их.
– Нарядные ребята! Только бы на Подновинское!
– Что от них проку! Только напоказ и водят! – говорил другой.
– Пехота, не пыли! – шутил гусар, под которым лошадь, заиграв, брызнула грязью в пехотинца.
– Прогонял бы тебя с ранцем перехода два, шнурки то бы повытерлись, – обтирая рукавом грязь с лица, говорил пехотинец; – а то не человек, а птица сидит!
– То то бы тебя, Зикин, на коня посадить, ловок бы ты был, – шутил ефрейтор над худым, скрюченным от тяжести ранца солдатиком.
– Дубинку промеж ног возьми, вот тебе и конь буде, – отозвался гусар.

Остальная пехота поспешно проходила по мосту, спираясь воронкой у входа. Наконец повозки все прошли, давка стала меньше, и последний батальон вступил на мост. Одни гусары эскадрона Денисова оставались по ту сторону моста против неприятеля. Неприятель, вдалеке видный с противоположной горы, снизу, от моста, не был еще виден, так как из лощины, по которой текла река, горизонт оканчивался противоположным возвышением не дальше полуверсты. Впереди была пустыня, по которой кое где шевелились кучки наших разъездных казаков. Вдруг на противоположном возвышении дороги показались войска в синих капотах и артиллерия. Это были французы. Разъезд казаков рысью отошел под гору. Все офицеры и люди эскадрона Денисова, хотя и старались говорить о постороннем и смотреть по сторонам, не переставали думать только о том, что было там, на горе, и беспрестанно всё вглядывались в выходившие на горизонт пятна, которые они признавали за неприятельские войска. Погода после полудня опять прояснилась, солнце ярко спускалось над Дунаем и окружающими его темными горами. Было тихо, и с той горы изредка долетали звуки рожков и криков неприятеля. Между эскадроном и неприятелями уже никого не было, кроме мелких разъездов. Пустое пространство, саженей в триста, отделяло их от него. Неприятель перестал стрелять, и тем яснее чувствовалась та строгая, грозная, неприступная и неуловимая черта, которая разделяет два неприятельские войска.
«Один шаг за эту черту, напоминающую черту, отделяющую живых от мертвых, и – неизвестность страдания и смерть. И что там? кто там? там, за этим полем, и деревом, и крышей, освещенной солнцем? Никто не знает, и хочется знать; и страшно перейти эту черту, и хочется перейти ее; и знаешь, что рано или поздно придется перейти ее и узнать, что там, по той стороне черты, как и неизбежно узнать, что там, по ту сторону смерти. А сам силен, здоров, весел и раздражен и окружен такими здоровыми и раздраженно оживленными людьми». Так ежели и не думает, то чувствует всякий человек, находящийся в виду неприятеля, и чувство это придает особенный блеск и радостную резкость впечатлений всему происходящему в эти минуты.
На бугре у неприятеля показался дымок выстрела, и ядро, свистя, пролетело над головами гусарского эскадрона. Офицеры, стоявшие вместе, разъехались по местам. Гусары старательно стали выравнивать лошадей. В эскадроне всё замолкло. Все поглядывали вперед на неприятеля и на эскадронного командира, ожидая команды. Пролетело другое, третье ядро. Очевидно, что стреляли по гусарам; но ядро, равномерно быстро свистя, пролетало над головами гусар и ударялось где то сзади. Гусары не оглядывались, но при каждом звуке пролетающего ядра, будто по команде, весь эскадрон с своими однообразно разнообразными лицами, сдерживая дыханье, пока летело ядро, приподнимался на стременах и снова опускался. Солдаты, не поворачивая головы, косились друг на друга, с любопытством высматривая впечатление товарища. На каждом лице, от Денисова до горниста, показалась около губ и подбородка одна общая черта борьбы, раздраженности и волнения. Вахмистр хмурился, оглядывая солдат, как будто угрожая наказанием. Юнкер Миронов нагибался при каждом пролете ядра. Ростов, стоя на левом фланге на своем тронутом ногами, но видном Грачике, имел счастливый вид ученика, вызванного перед большою публикой к экзамену, в котором он уверен, что отличится. Он ясно и светло оглядывался на всех, как бы прося обратить внимание на то, как он спокойно стоит под ядрами. Но и в его лице та же черта чего то нового и строгого, против его воли, показывалась около рта.
– Кто там кланяется? Юнкег" Миг"онов! Hexoг"oшo, на меня смотг"ите! – закричал Денисов, которому не стоялось на месте и который вертелся на лошади перед эскадроном.
Курносое и черноволосатое лицо Васьки Денисова и вся его маленькая сбитая фигурка с его жилистою (с короткими пальцами, покрытыми волосами) кистью руки, в которой он держал ефес вынутой наголо сабли, было точно такое же, как и всегда, особенно к вечеру, после выпитых двух бутылок. Он был только более обыкновенного красен и, задрав свою мохнатую голову кверху, как птицы, когда они пьют, безжалостно вдавив своими маленькими ногами шпоры в бока доброго Бедуина, он, будто падая назад, поскакал к другому флангу эскадрона и хриплым голосом закричал, чтоб осмотрели пистолеты. Он подъехал к Кирстену. Штаб ротмистр, на широкой и степенной кобыле, шагом ехал навстречу Денисову. Штаб ротмистр, с своими длинными усами, был серьезен, как и всегда, только глаза его блестели больше обыкновенного.