روزبه در سال ۱۳۲۲ به حزب توده پیوست. در سالهای اولیه شکل‌گیری حزب توده، کثرت مراجعه نظامیان با گرایش چپ موجب شد که حزب تصمیم به تأسیس یک سازمان نظامی مخفی بگیرد. آرداشس اُوانِسیان به عنوان نخستین مسئول سازمان نظامی معرفی شد، اما پس از بازگشت کامبخش از باکو، مسئولیت سازمان افسری به او سپرده شد. خسرو روزبه نیز در این دوران عضو هیئت اجرائیه سازمان افسری بود.

در تابستان سال ۱۳۲۴ سرهنگ عبدالرضا آذر به اتفاق سرگرد علی اکبر اسکندانی که هر دو عضو سازمان افسران حزب توده بودند، تصمیم به قیام مسلحانه علیه رژیم گرفتند و به همراه گروهی از همفکرانشان در ترکمن صحرا قیام کردند؛ ولی این حرکت که به قیام افسران خراسان شهرت یافت و به سرعت سرکوب شد، حساسیت فراوانی برانگیخت. عده‌ای از افسران مبارز به فرمان ستاد ارتش به کرمان تبعید شدند. طرح دستگیری روزبه نیز ریخته شد اما روزبه که در مرخصی یک‌ماهه به سر می‌برد، به جای بازگشت به خدمت، مخفی شد و از بازداشت نجات یافت.

سرهنگ علی زیبایی، بازجوی اصلی بازداشت‌شدگان حزب توده که بعدها به سفارش ساواک کتابی را به نام «کمونیسم درایران» نگاشته‌است و امکان دسترسی عموم به این کتاب تا پیش از پیروزی انقلاب ۱۳۵۷ وجود نداشته‌است در کتاب خود نقل می‌کند که خسرو روزبه در بازجویی‌ها به قتل محمد مسعود یک روزنامه‌نگار مستقل، در سال ۱۳۲۶ و هم‌چنین قتل چهار تن از اعضای حزب توده که به‌خاطر خیانت به حزب و فروش اطلاعات به پلیس پس از کودتای ۲۸ مرداد مورد ظن قرار داشتند، اعتراف کرده‌است. از این چهار نفر، نام حسام لنکرانی، فرزند یک روحانی شناخته شده در آذربایجان به چشم می‌خورد.

زیبایی می‌نویسد که روزبه با این حال تأکید کرده‌است که قتل محمد مسعود را بدون در میان گذاشتن آن با حزب انجام داده‌است، در حقیقت حزب توده تشکیلات نظامی خود را در سال ۱۳۲۵ منحل کرده و تا سال ۱۳۲۹ آن را دوباره ایجاد نکرده‌است. به خاطر میانه‌روی بیش از حد و نامطلوب حزب، روزبه به سال ۱۳۲۵ از آن کناره‌گیری نموده و تا حدود سال ۱۳۳۰ دوباره به آن نپیوسته‌است. در کتاب علی زیبایی، روزبه - که به پیروی از میخائیل باکونین و نه مارکس و انگلس یک افراطی بوده - همچنین اعتراف می‌کند که معتقد بوده ترور یک روزنامه‌نگار شناخته‌شده و ضدّ دربار مانند مسعود، کشور را به وضعیت دوقطبی رسانده و حزب توده را افراطی‌تر و رادیکال‌تر خواهد کرد...