| |||
относительная энтропия | |||
в теории информации — отношение абсолютной энтропии сообщения к количеству информации на 1 элемент сообщения (т.е. к числу возможных решений, необходимых для выбора заданного сообщения среди конечного числа взаимно-эксклюзивных сообщений) | |||
относительная энтропия (в теории информации) |