предложение, которое пока у меня сработало:
во втором круге после выпадения "а" все вероятности остальных результатов домножаются на 1/(1-а); после выпадения "аб" - в третем круге 1/(1-а)(1-б)
никаких прогрессий, тупой перебор.
для случая 0.5, 0.25,0.25:
после выпадения А(0.5), вероятности б и ц будут 0.25/(1-0.5)=0.5
после выпадения Б(0.25) - а'=0.5/(1-0.25)=2/3, ц'=0.25/(1-0.25)=1/3
т.е. вероятность
АБ=АЦ в полном раскладе (включая все повторы) 0.5*0.5=1/4
БА(=ЦА)=0.25*2/3=1/6,
БЦ=ЦБ=0.25*1/3=1/12

вот и фсе, осталось расписать на случай 4 элементов из 11...