در یک تعریف ساده، کاروانسرا به ساختمانی اشاره دارد که کاروان را در خود جای می‌دهد و پلان آن معمولاً مربع یا مستطیل شکل است، با یک ورودی برجسته عظیم و بلند، معمولاً ساده و بدون نقش، با دیوارهایی که گاهی اوقات بادگیرهایی در انتهای آن تعبیه شده‌است. یک دالان با طاق قوسی که مابین ورودی و حیاط داخلی قرار گرفته‌است، فضای کافی را برای جا دادن حیوانات بارکش فراهم ساخته‌است. بر روی سکوی برآمده‌ای که در پیرامون این حیاط قرار گرفته‌است، طاقگان‌هایی واقع شده‌اند که نمای داخلی را مفصل بندی می‌کنند. در پشت آنها حجره‌های کوچکی برای منزل دادن مسافران ساخته شده‌است. در کاروانسراهای دو طبقه، از حجره‌های پایینی برای انبار کردن کالاها و از حجره‌های بالایی برای منزل دادن مسافران استفاده می‌شد.