В корзине лежат 32 клубка красной и черной шерсти среди них 4 красных: В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение…

Информация и вероятность. Формула Хартли

Планирование уроков на учебный год (по учебнику К.Ю. Полякова, Е.А. Еремина, сокращённый курс, по 2 часа в неделю)

Главная | Информатика и информационно-коммуникационные технологии | Планирование уроков и материалы к урокам | 11 классы | Планирование уроков на учебный год (по учебнику К.Ю. Полякова, Е.А. Еремина, сокращённый курс, по 2 часа в неделю) | Количество информации

Содержание урока

Формула Хартли

Задачи

Информация и вероятность

Вопросы и задания

Задачи

Формула Шеннона

Вопросы и задания

Задачи

1. Вероятность появления символа @ в некотором тексте равна 0,125. Сколько битов информации несёт сообщение о том, что очередной символ текста — @?

2. В садке у рыбака сидят 2 окуня, 4 плотвы и 10 уклеек. Не смотря в садок, рыбак вытаскивает наугад одну рыбу. Какова вероятность того, что это будет плотва?

3. В пруду плавают 10 линей, 20 окуней и 70 карасей. Считаем, что они одинаково голодны и равномерно распределены по водоёму. Какова вероятность того, что первая рыба, пойманная рыбаком, будет линем? Окунем? Карасём?

4. Ученик задумал целое число от 1 до 100. Какова вероятность того, что это будет число в интервале от 21 до 30? От 31 до 55? Больше 25? Равно 25?

5. Ученик задумал целое число от -10 до 10. Какова вероятность того, что квадрат этого числа больше 25? Меньше 10? Равен 49?

6. В корзине лежат 8 чёрных шаров и 24 белых. Какова вероятность вытащить чёрный шар? Сколько битов информации несёт сообщение о том, что достали чёрный шар?

7. В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько битов информации несёт сообщение о том, что достали клубок красной шерсти?

8. В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несёт 4 бита информации. Сколько белых карандашей было в коробке?

9. В ящике лежат чёрные и белые перчатки. Среди них 2 пары чёрных. Сообщение о том, что достали чёрные перчатки, несет 4 бита информации. Сколько всего пар перчаток было в ящике?

10. За контрольную работу в классе из 30 человек выставлено 6 пятёрок, 15 четвёрок, 8 троек и 1 двойка. Сколько битов информации несёт сообщение о том, что Иван Петров получил четвёрку?

11. В ящике лежат 20 шаров, из них 10 чёрных, 5 белых, 4 жёлтых и 1 красный. Сколько битов информации несёт сообщение о том, что достали белый шар?

12. За четверть ученик получил 20 оценок. Сообщение о том, что он вчера получил четвёрку, несёт 2 бита информации. Сколько четвёрок получил ученик за четверть?

13. В корзине лежат чёрные и белые шары. Среди них 18 чёрных шаров. Сообщение о том, что достали белый шар, несёт 2 бита информации. Сколько всего шаров было в корзине?

14. В алфавите языка племени тумба-юмба 4 буквы: гласные О и А, согласные Ш и Щ. Вероятности их появления в тексте: А — 0,35; О — 0,4; Ш — 0,1; Щ — 0,15. Сколько битов информации несёт сообщение о том, что очередной символ текста — согласная?

*15. Автобус № 25 ходит в 2 раза чаще, чем автобус № 13. Сообщение о том, что к остановке подошел автобус № 25, несет 4 бита информации. Сколько битов информации в сообщении «К остановке подошел автобус № 13»?

*16. В зоопарке 32 обезьяны живут в двух вольерах, А и Б. Одна из обезьян заболела. Сообщение «Заболела обезьяна из вольера А» содержит 4 бита информации. Сколько обезьян живут в вольере Б?

Следующая страница Формула Шеннона

Cкачать материалы урока

Измерение информации: содержательный подход — презентация онлайн

1. Измерение информации: содержательный подход

Информация и информационные процессы

2.

Содержательный подход к измерению информацииДля человека информация — это знания человека. Рассмотрим
вопрос с этой точки зрения.
Получение новой информации приводит к расширению знаний. Если
некоторое сообщение приводит к уменьшению неопределенности
нашего знания, то можно говорить, что такое сообщение
содержит информацию.
Отсюда следует вывод, что сообщение информативно (т.е.
содержит ненулевую информацию), если оно пополняет знания
человека. Например, прогноз погоды на завтра — информативное
сообщение, а сообщение о вчерашней погоде неинформативно,
т.к. нам это уже известно.
Нетрудно понять, что информативность одного и того же сообщения
может быть разной для разных людей. Например: «2×2=4»
информативно
для
первоклассника,
изучающего
таблицу
умножения, и неинформативно для старшеклассника.
Количество информации – это мера уменьшения
неопределенности знаний.

3. Информативность сообщения

Но для того чтобы сообщение было информативно оно должно еще
быть понятно.
Быть понятным, значит быть логически связанным с предыдущими
знаниями человека. Определение «значение определенного
интеграла
равно
разности
значений
первообразной
подынтегральной функции на верх нем и на нижнем
пределах», скорее всего, не пополнит знания и старшеклассника,
т.к. оно ему не понятно. Для того, чтобы понять данное
определение, нужно закончить изучение элементарной математики
и знать начала высшей.
Получение всяких знаний должно идти от простого к сложному. И
тогда каждое новое сообщение будет в то же время понятным, а
значит, будет нести информацию для человека.
Сообщение несет информацию для человека, если
содержащиеся в нем сведения являются для него
новыми и понятными.

4. Единица измерения информации

Очевидно, различать лишь две ситуации: «нет информации» — «есть
информация» для измерения информации недостаточно. Нужна
единица измерения, тогда мы сможем определять, в каком
сообщении информации больше, в каком — меньше.
Единица измерения информации была определена в науке,
которая называется теорией информации. Эта единица
носит название «бит». Ее определение звучит так:
Сообщение,
уменьшающее
неопределенность
знаний в два раза, несет 1 бит информации.
Неопределенность знаний о некотором событии —
это
количество
возможных
результатов
события.

5. Пример:

После сдачи зачета или выполнения контрольной работы
ученик мучается неопределенностью, он не знает, какую
оценку получил.
«Зачет», «незачет»?
«2», «3», «4» или «5»?
Наконец, учитель объявляет результаты, и он получаете одно
из двух информационных сообщений: «зачет» или
«незачет», а после контрольной работы одно из четырех
информационных сообщений: «2», «3», «4» или «5».
Информационное сообщение об оценке за зачет приводит к
уменьшению неопределенности знания в два раза, так как
получено одно из двух возможных информационных
сообщений. Информационное сообщение об оценке за
контрольную
работу
приводит
к
уменьшению
неопределенности знания в четыре раза, так как получено
одно из четырех возможных информационных сообщений.

6. Пример:

На книжном стеллаже восемь
полок. Книга может быть
поставлена на любую из них.
Сколько
информации
содержит сообщение о том,
где находится книга?
Задаем вопросы:
— Книга лежит выше четвертой полки?
— Нет.
— Книга лежит ниже третьей полки?
— Да .
— Книга — на второй полке?
— Нет.
— Ну теперь все ясно! Книга лежит на первой полке!
Каждый ответ уменьшал неопределенность в два раза.
Всего было задано три вопроса. Значит набрано 3 бита информации. И если бы
сразу было сказано, что книга лежит на первой полке, то этим сообщением были
бы переданы те же 3 бита информации.

7. Формула вычисления количества информации равновероятных событий

2I = N,
где
N — возможное количество событий,
I — количество информации в сообщении о том, что
произошло одно из N событий, бит.
Количество информации, содержащееся в
сообщении о том, что произошло одно из N
равновероятных событий, определяется из
решения показательного уравнения: 2I = N.
I= log2N

8. Пример 1:

Сколько информации содержит сообщение о
том, что из колоды карт достали король
пик?

9. Пример 1:

Сколько информации содержит сообщение о том,
что из колоды карт достали король пик?
Решение:
В колоде 32 карты. В перемешенной колоде выпадение
любой карты равновероятное событие.
N = 32. I — ?
2I = N
2I = 32
25 = 32
I = 5 бит

10. Пример 2:

Сколько информации содержит сообщение о
выпадении грани с числом 3 на
шестигранном игральном кубике?

11. Пример 2:

Сколько информации содержит сообщение о
выпадении грани с числом 3 на
шестигранном игральном кубике?
Решение:
N = 6. I — ?
2I = N
2I = 6
22 < 6 < 23
I = 2.58496 бит

12. Задания выполнить в тетради:

1) В книге 512 страниц. Сколько
информации несет сообщение о том, что
закладка лежит на какой-либо странице?
2) Сколько информации несет сообщение о
том, что концерт состоится в октябре?

13.

Вероятностный подход к определению количества информации. Формула ШеннонаКоличество информации в сообщении
о неравновероятном событии:
I=log2(1/p), где
I – это количество информации, бит
р – вероятность события.
Вероятность события выражается в
долях единицы и вычисляется по
формуле:
р=K/N
где
К – величина, показывающая сколько раз
произошло интересующее нас событие,
N – общее число возможных исходов
какого-то процесса.

16. Задача: Бабушка испекла 8 пирожков с капустой, 24 пирожков с повидлом. Маша съела один пирожок. Вычислить вероятность выбора

пирожка с разной начинкой и количество информации, которое при
этом было получено.
Решение:
К1 – это количество пирожков с повидлом, К1=24
К2 – количество пирожков с капустой, К2=8
N – общее количество пирожков, N = К1 +К2=24+8=32
Вероятность выбора пирожка с повидлом: р1=24/32=3/4=0,75.
Вероятность выбора пирожка с капустой: р2=8/32=1/4=0,25.
Пусть
Обращаем внимание учащихся на то, что в сумме все вероятности дают 1.
Вычислим количество информации, содержащееся в сообщении, что Маша выбрала пирожок
с повидлом:
I1=log2(1/p1)= log2(1/0,75)= log21,3=1,15470 бит.
Вычислим количество информации, содержащееся в сообщении, если был выбран пирожок с
капустой:
I2=log2(1/p2)= log2(1/0,25)= log24=2 бит.
Качественную связь между
вероятностью события и количеством
информации в сообщении об этом
событии можно выразить так: чем
меньше вероятность некоторого
события, тем больше информации
содержит сообщение об этом
событии.
Вопрос: сколько получим информации
при выборе пирожка любого вида?
Ответить на этот вопрос нам поможет формула вычисления
количества информации для событий с различными
вероятностями, которую предложил в 1948 г. американский
инженер и математик К.Шеннон.
Если I-количество информации, N-количество возможных
событий, рi — вероятности отдельных событий, где i
принимает значения от 1 до N, то количество информации
для событий с различными вероятностями можно определить по
формуле:
можно расписать формулу в таком виде:
Рассмотрим формулу на нашем примере:
I = — (р1∙log2p1 + р2∙log2p2)
= — (0,25∙ log20,25+0,75∙ log20,75)
≈-(0,25∙(-2)+0,75∙(-0,42))
=0,815 бит

20.

Задача: В корзине лежат 32 клубка красной и черной шерсти. Среди них 4 клубка красной шерсти. Сколько информации несетсообщение, что достали клубок
красной шерсти? Сколько
информации несет сообщение, что
достали клубок шерсти любой
окраски?

21. План работы над презентацией:

1)Краткий конспект темы (то, что
выделено красным)
2)Решение задач (дано, найти,
решение, ответ)
3)Вывод по работе

Как решить классическое интервью «Более тяжелый мяч» Головоломка

Разберитесь с этим хитрым вопросом. Викисклад

В недавнем обзоре вопросов, которые, как известно, задает Goldman Sachs, мы натолкнулись на эту классическую головоломку:

«Предположим, у вас есть восемь одинаковых мячей.

Один из них немного тяжелее, и вам дана шкала баланса. раз вам приходится использовать весы, чтобы найти более тяжелый мяч?»

Вам действительно зададут этот вопрос, там или где-то еще? Это определенно менее вероятно, чем раньше. Google, когда-то легендарный своими сложными загадками, запретил эту практику к 2010 году.0003

В интервью The New York Times в 2013 году старший вице-президент Google по управлению персоналом Ласло Бок недвусмысленно высказался по поводу этого решения. «Мы обнаружили, что головоломки — пустая трата времени. Сколько мячей для гольфа можно поместить в самолет? Сколько заправок на Манхэттене? Пустая трата времени. Они ничего не предсказывают. чувствовать себя умным», — сказал он.

Приливы и отливы изменились, и головоломки-интервью по большей части ушли в прошлое. Но они все равно время от времени всплывают. (Мы заметили несколько на Glassdoor за последние несколько месяцев.) И, как утверждает исполнительный рекрутер Чарли Полачи в своем блоге Big Interview, это не совсем неоправданно; в некоторых случаях они могут быть действительно полезным инструментом для оценки критического мышления недавнего выпускника.

Для вашей карьеры или вашего личного назидания, вот как решить проблему «взвешенного мяча».

Опять же, вот головоломка:

«Предположим, у вас есть восемь одинаковых мячей. Один из них немного тяжелее, и вам даны весы. Какое наименьшее количество раз вы должны использовать весы, чтобы найти более тяжелый мяч? »

Шаг 1. Не отвечайте три. Три неправильно. Заманчивый ответ — взвесить все шары, по четыре с каждой стороны. Определите, какая сторона тяжелее. Затем возьмите более тяжелую группу из четырех и снова разделите их на две на одной чаше весов и две на другой. Определите, какая сторона тяжелее. Теперь вы знаете, что тяжелый мяч — это одна из двух возможностей. Взвесьте их обоих на противоположных чашах весов и бац: за три взвешивания вы определили самый тяжелый шар.

Нет. Так вы найдете более тяжелый мяч, но это не самый эффективный подход.

Проблема здесь в том, что вам не нужно взвешивать мяч, чтобы получить информацию о нем.

Фактический ответ — два взвешивания. Вот как это обосновать, как показано в этом полезном и очаровательно иллюстрированном видео на YouTube от jrgoldma:

Вместо этого выложите свои воображаемые шары. Выберите шесть из них для работы и — на данный момент — игнорируйте два.

jrgoldma/YouTube

Теперь взвесьте мячи, которые все еще находятся в игре, друг против друга, по три с одной стороны весов и три с другой.

Сценарий A: Весы сбалансированы. Это означает, что тяжелый шар является одним из двух обносков (G или H). Сравните G и H друг с другом, и вы получите ответ. Всего два взвешивания, и дело решено.

jrgoldma/YouTube

Сценарий B: Весы обеспечивают баланс , а не . Скажем, сторона ABC тяжелее стороны DEF. Отлично: теперь мы знаем, что тяжелый мяч — это A, B или C. Чтобы выяснить, какой это мяч, взвесьте любые два мяча друг против друга, скажем, A против B. Если один или другой тяжелее, то вы нашли Ваш ответ. Если весы уравновешиваются, то вы знаете, что тяжелый шар — это С. Опять же, решение решается за два взвешивания.

jrgoldma/YouTube

85 Идеи для праздничной рождественской елки, чтобы произвести впечатление на гостей

Реклама — Продолжить чтение ниже

1

Деревенская елка

Все, что нужно для воссоздания этого вдохновленного природой образа, — это сушеные апельсины, искусственная клюква и гирлянда из помпонов. Не забудьте соломенную корзину, а не юбку из дерева.

МАГАЗИН ДЕРЕВЯННЫХ ГЕРЛАНДОВ

Danielle Daly

2

Конфетная тема

Если вы чувствуете себя бодро, выберите красочную конфетную тему. Начните с искусственной белой рождественской елки и заполните ее самодельными украшениями из леденцов, яркими безделушками и прозрачными украшениями, наполненными маленькими игрушками и конфетами. Дополните образ радужной гирляндой из помпонов и верхушкой из соломенного дерева.

Получить руководство на сайте «Самостоятельный дизайн»

«Самостоятельный дизайн»

3

Красно-зеленое дерево из лент в клетку

У вас осталась праздничная клетчатая лента, оставшаяся от подарочной упаковки? Нет никаких причин, по которым вы не должны использовать его, чтобы придать индивидуальность вашему дереву.

SHOP RIBBON

Kim Cornelison

Advertisement — Continue Reading Below

4

Cozy Lodge Tree

Наполните елку красными и бордовыми безделушками, классической гирляндой из бисера и толстой лентой из снежинок, чтобы создать в доме уютную и теплую атмосферу.

КУПИТЬ ЛЕНТУ «СНЕЖИНКА»

Получить урок на Inspired by Charm »

Inspired by Charm

5

Рождественская елка на доске

Эта минималистичная идея рождественской елки не должна быть интересной для всей семьи, и она дольше нескольких часов. Он изготовлен из металлического листа, покрытого мелованной виниловой пленкой, которая делает его магнитным. Быстро соберите несколько самодельных украшений, прикрепив магнит к обратной стороне вырезов из фетра.

Получите руководство в Lily Ardor »

Lily Ardor

6

Классическая рождественская елка

От ностальгических украшений до мишуры и золотой звезды — вы не ошибетесь, выбрав традиционную рождественскую елку, чтобы наполнить пространство праздником. радость.

МАГАЗИН МИШУШИ

Даниэлла Дейли

Реклама — Продолжить чтение ниже

7

Дерево, покрытое украшениями

Не хватает места на большой рождественской елке, чтобы похвастаться постоянно растущей коллекцией украшений? Попробуйте этот винтажный образ с конусами из пенопласта, покрытыми красочными орнаментами всех форм и размеров.

Бекки Луигарт-Стейнер; Стайлинг Анны Логан; Crafts by Sara Scherf

8

Ошейник из веревки для рождественской елки

Если вы хотите придерживаться более традиционных украшений, почему бы не сделать подставку для елки креативной? Вам понадобится всего несколько материалов, чтобы воссоздать эту простую елочную шейку. Просто используйте картонную коробку в качестве ориентира при склеивании.

Пройдите обучение на сайте A Beautiful Mess »

A Beautiful Mess

9

Разноцветное дерево

Продемонстрируйте свою любовь к максимальному декору с помощью дерева, украшенного яркими орнаментами, голубыми лентами и множеством теплых вещей. огни.

Michael Partenio

Advertisement — Продолжить чтение ниже

10

Радужное дерево

Зачем выбирать одну цветовую схему, когда можно использовать их все? Если вы очень нерешительны или просто любите разные оттенки, оберните елку радугой из простых шаровых украшений.

Получить урок на сайте Inspired by Charm »

Inspired by Charm

11

Modern White Tree

Вот елка для тех, кто действительно хочет повеселиться в это Рождество. Для этого современного образа вам понадобятся четкие огни, красочные бархатные банты для эффекта омбре и набор шаровых украшений. Завершите елку плюшевой белой юбкой и моравской звездой.

SHOP MINI BOWS

Danielle Daly

12

Дерево для диско-шаров

Придайте своему загородному дому блеска и гламура с помощью этого яркого дерева для диско-шаров. Начните с 24-дюймового пенопластового конуса или проволочного дерева и используйте горячий клей, чтобы склеить дискотечные шары всех размеров. 13

Дерево из стеклянных банок

Если вам нужен творческий подход к использованию вашей коллекции старинных стеклянных банок, вот отличная идея: попробуйте расставить цветные банки в виде мини-рождественской елки. Не останавливайтесь на достигнутом! Наполните их украшениями, а затем драпируйте любыми праздничными бусинами на ваш выбор. Это декор идеального размера для каминной полки в гостиной!

SHOP MASON JARS

СВЯЗАННЫЕ: 45 простых и праздничных способов украсить каминную доску

Burcu Avsar

14

Зеленая и розовая современная елка

Натуральные текстуры, современные самодельные бумажные 3D-украшения и деревянные элементы отличают эту рождественскую елку. Добавьте ярких красок с помощью гирлянды из лент.

ЛЕНТА ДЛЯ МАГАЗИНА

Пройти обучение в Persia Lou »

Persia Lou

15

Дерево, вдохновленное леденцами

Карамельные трости никогда не перестанут поднимать дух Рождества. Положитесь на классический узор в полоску, чтобы оживить мини-елки самых разных размеров. Используйте их в качестве центральных элементов или украсьте серые полки.

Брайан Вудкок

Реклама – Продолжить чтение ниже

16

Демонстрация веток дерева

Если Чарли Браун чему-то и научил нас, так это тому, что вам не нужна огромная ель, чтобы найти «истинный смысл Рождество». Если вы предпочитаете минималистское рождественское украшение, выберите простую ветку дерева в стеклянной банке.

Пройти обучение на сайте «Веселая мысль» »

«Веселая мысль»

17

Маленькое настольное дерево

Это маленькое дерево производит сильное впечатление, когда стоит на круглом столе в центре жилого помещения. Заполните стол подарками и используйте высокий верх для елки, чтобы создать дополнительную высоту.

Birgitta Wolfgang Drejer

18

Рождественская елка с лестницей

Превратите классическую деревянную лестницу в праздничное украшение, украсив ее гирляндами, украшениями и воздушным шаром в виде звезды.