gds
16.02.2012 14:42 umodniBA03C572
подумалась тривиальщина, по цепочке размышлений "бит → пол-бита".
по идее, пол-бита — это знание какого-либо факта с вероятностью 1/sqrt(2).
а есть ли какие-нибудь другие полезные штуки от представления вероятностей в битах, кроме всяких там шеннона и арифметического сжатия?
Recommended by:
@17eyes
13 comments
recommend
bookmark
subscribe
Рискую показаться деревенщиной, но бит вроде минимальная единица информации?
Почему это пол-бита — 1/\sqrt{2}?
Не совсем. Бит — это столько информации, сколько нужно для различия между двумя равновероятными исходами.
Но тогда как можно еще меньшую величину выразить?
бит можно рассматривать его как вероятность события. 0 = 0%, 1 = 100%. если есть 1 бит, то вероятность одного события полностью определена.
Но тогда бит получается нихуя не двоичный и не определенный конкретно, а какая-то вероятностная хуйня!
это дробные биты вероятностная хуйня. а если есть вероятности ровно 0% и 100%, это будет соответствовать битам 0 и 1.
Ок, спс.
Это так и есть.
Как логарифм.
Што.
Это какие-то особые, аналоговые биты? 0_0
а, хотя вот, могу ошибаться тут. но не суть важно, вопроса из поста это мало касается.