По собственному признанию, находясь под арестом, более года успешно симулировал сумасшествие. 10 февраля 1984 г. приговорен Харьковским областным судом к 14 годам лишения свободы в исправительно-трудовом лагере строгого режима с конфискацией имущества и запретом заниматься профессиональной деятельностью в течение 5 лет.
Заключение отбывал неподалеку от Харькова. По информации некоторых СМИ, во время пребывания Рабиновича в колонии все еврейское сообщество западного мира выступало в его защиту. Однако в детальной биографии Рабиновича "Олигарх", написанной немецким автором Юргеном Роттом, об этом факте не упоминается. Распространялась также информация о том, что, находясь в заключении, Рабинович был завербован КГБ. ссылка-https://youtu.be/q0MmTO3vCJ8
