Теория информации, энтропия

@Nare6ato · Регистрация: 19.09.2018

Author24 — интернет-сервис помощи студентам

Один опыт состоит в том, что внутри круга случайно ставится точка, которая может попасть или не попасть в правильный треугольник, вписанный в этот круг. В другом опыте точка ставится случайно внутри правильного треугольника и может оказаться внутри или вне вписанного в этот треугольник круга. Какой опыт является более неопределенным?

@jogano · 20.02.2019, 19:23

Для начала надо в каждом случае посчитать вероятность p попасть во внутреннюю фигуру, дальше вычислить энтропию $https://www.cyberforum.ru/cgi-bin/latex.cgi?H=-p \log _2 p-\left(1-p \right) \log _2 \left(1-p \right)$ . Слагаемых два, так как в каждом случае два состояния - попадание или не попадание точки в внутреннюю фигуру.
Энтропия Н оказывается равной в первом случае 0,9783 , во втором 0,9682. Более неопределённый опыт тот, в котором энтропия больше, то есть первый.
Вообще, если у системы всего 2 состояния, то график зависимости H(p) напоминает по форме полуэллипс $https://www.cyberforum.ru/cgi-bin/latex.cgi?\frac{\left(p-0,5 \right)^2}{0,5^2}+\frac{H^2}{1^2}=1$ , только немного суженный к прямой p=0,5, где энтропия максимальна: H(0,5)=1, то есть где неопределённость выше всего. Чем ближе p к 0 или к 1, тем ближе H(p) к 0, то есть неопределённость ниже.

@Nare6ato 0 / 0 / 0 Регистрация: 19.09.2018 Сообщений: 32
		1
	Теория информации, энтропия 20.02.2019, 18:27. Показов 2003. Ответов 1 Метки нет (Все метки) Один опыт состоит в том, что внутри круга случайно ставится точка, которая может попасть или не попасть в правильный треугольник, вписанный в этот круг. В другом опыте точка ставится случайно внутри правильного треугольника и может оказаться внутри или вне вписанного в этот треугольник круга. Какой опыт является более неопределенным? 0

@jogano $Эксперт по математике/физике$ 6358 / 4065 / 1512 Регистрация: 09.10.2009 Сообщений: 7,550 Записей в блоге: 4
	20.02.2019, 19:23	2
	Для начала надо в каждом случае посчитать вероятность p попасть во внутреннюю фигуру, дальше вычислить энтропию $https://www.cyberforum.ru/cgi-bin/latex.cgi?H=-p \log _2 p-\left(1-p \right) \log _2 \left(1-p \right)$ . Слагаемых два, так как в каждом случае два состояния - попадание или не попадание точки в внутреннюю фигуру. Энтропия Н оказывается равной в первом случае 0,9783 , во втором 0,9682. Более неопределённый опыт тот, в котором энтропия больше, то есть первый. Вообще, если у системы всего 2 состояния, то график зависимости H(p) напоминает по форме полуэллипс $https://www.cyberforum.ru/cgi-bin/latex.cgi?\frac{\left(p-0,5 \right)^2}{0,5^2}+\frac{H^2}{1^2}=1$ , только немного суженный к прямой p=0,5, где энтропия максимальна: H(0,5)=1, то есть где неопределённость выше всего. Чем ближе p к 0 или к 1, тем ближе H(p) к 0, то есть неопределённость ниже. 1