سلام،
برای این کار دستور خاصی وجود نداره بلکه شما باید یه سری از کار ها رو پشت سر هم انجام بدی و بعد وارد Protected Mode بشی. اصلی ترین کار تغییر بیت PE در CR0 به 1 هست.
در این مورد پیشنهاد می کنم Tutorial های انگلیسی رو بخون:
http://viralpatel.net/taj/tutorial/protectedmode.php
این یکی از بهترین Tutorial ها هست که به زیبایی توضیح داده :
www.brokenthorn.com/Resources/OSDev8.html