سلسلة ماركوف في وقت متقطع هي السلسلة X1, X2, X3,... متكونة من متغيرات عشوائية. مجموعة القيمات الممكنة تدعي فضاء الحالات. وXn تدعى حالة العملية في الآن n.
إذا كان توزيع الاحتمال الشرطي لXn+1 على الحالات الفارطة دالة وحده إذن .
حيث x هي دالة ما في العملية. المعادلة هذه تعرف بالاحتمال الماركوفي.
نشر أندري ماركوف النتائج الأولى حول هذه العملية عام 1906م. التعميم إلى فضاء حالات لا متناهية معدودة أتى من أندريا كلموغوروف (بالإنجليزية: Andrei Kolmogorov) في 1936م.
خاصية سلاسل ماركوف
سلسلة ماركوف تتبع التوزيع الاحتمالي الشرطي
الذي يدعى احتمال الانتقال بخطوة للعملية.
احتمال الانتقال بخطوتين أو ثلاثة أو أكثر يقع الحصول عليها انطلاقا من احتمال الانتقال بخطوة وخاصية ماركوف هي:
وبنفس الطريقة، يمكن :
وهذه المعادلات يمكن تعميمها إلى مستقبل بعيد نسبيا n + k بضرب أحتمالات الانتقال وبإجراء عملية التكامل k من المرّات.
والتوزيع الحالي (P (Xn هو توزيع الحالات في الوقت n. التوزيع الأول هو (P (X0.
وتطور العملية الأحتمالية بعد خطوة يمكن كتابته كالآتي: