Statistika është shkenca që studion marrjen, organizimin, analizimin dhe interpretimin e ndryshimeve sasiore në zhvillimin e shoqërisë, të ekonomisë, të kulturës etj., duke mbledhur të dhëna numërore për to, të cilat grupohen e përpunohen me metoda të veçanta. Statistika gjithashtu paraqet tërësinë e të dhënave numërore të mbledhura nga një fushë e jetës ose e ekonomisë ose për një dukuri të renditur sipas një kriteri të caktuar.
Kur të dhënat e regjistrimit nuk mund të mblidhen, statisticienët mbledhin të dhëna duke zhvilluar modele të veçanta eksperimenti dhe kampione anketash. Kampionet përfaqësuese sigurojnë se hetimet dhe përfundimet mund të shtrihen në mënyrë të arsyeshme nga kampioni në popullatën e tërë. Një studim eksperimental përfshin marrjen e matjeve të sistemit në studim, manipulimin e sistemit dhe më pas marrjen e matjeve shtesë duke përdorur të njëjtën procedurë për të përcaktuar nëse manipulimi ka modifikuar vlerat e matjeve. Në të kundërt, një studim vëzhgues nuk përfshin manipulim eksperimental.
Shkrimet e hershme mbi inferencën statistikore datojnë që nga matematikanët dhe kriptoografët arabë, gjatë Epokës së Artë Islamike midis shekujve të 8-të dhe 13-të. Al-Khalil (717-786) shkroi Librin e Mesazheve Kriptografike, i cili përmban përdorimin e parë të permutacioneve dhe kombinimeve, për të listuar të gjitha fjalët e mundshme arabe me dhe pa zanore. Në librin e tij, Manuscript on Deciphering Cryptographic Messages, Al-Kindi dha një përshkrim të hollësishëm se si të përdorin analizën e frekuencave për të deshifruar mesazhet e koduara. Al-Kindi gjithashtu bëri përdorimin më të hershëm të njohur të inferencës statistikore, ndërsa ai dhe më vonë kriptoografët arabë zhvilluan metodat e hershme statistikore për dekodimin e mesazheve të koduara. Ibn Adlan (1187-1268) më vonë dha një kontribut të rëndësishëm, në përdorimin e madhësisë së mostrës në analizën e frekuencës.
Shkrimi më i hershëm evropian mbi statistikat daton në vitin 1663, me botimin e Vëzhgimeve Natyrore dhe Politike mbi Faturat e Vdekshmërisë nga John Graunt. Aplikimet e hershme të mendimit statistikor u përfshinë rreth nevojave të shteteve për të bazuar politikën në të dhënat demografike dhe ekonomike, prandaj stat- etimologjia e saj. Fusha e disiplinës së statistikave u zgjerua në fillim të shekullit të 19-të për të përfshirë mbledhjen dhe analizën e të dhënave në përgjithësi. Sot, statistikat janë të punësuar gjerësisht në qeveri, biznes, dhe shkencat natyrore dhe sociale.
Themelet matematikore të statistikave moderne u vendosën në shekullin e 17-të me zhvillimin e teorisë së probabilitetit nga Gerolamo Cardano, Blaise Pascal dhe Pierre de Fermat. Teoria e probabilitetit matematik lindi nga studimi i lojrave të rastësisë, edhe pse koncepti i probabilitetit tashmë u ekzaminua në ligjin mesjetar dhe nga filozofë të tillë si Juan Caramuel. Metoda e katrorëve më pak u përshkrua për herë të parë nga Adrien-Marie Legendre në vitin 1805.
Fusha moderne e statistikave u shfaq në fund të shekullit të 19-të dhe në fillim të shekullit të 20-të në tre faza. Vala e parë, në fillim të shekullit, u udhëhoq nga puna e Francis Galton dhe Karl Pearson, i cili i transformoi statistikat në një disiplinë rigoroze matematikore të përdorur për analizë, jo vetëm në shkencë, por edhe në industri dhe politikë gjithashtu. Kontributet e Galtonit përfshinin futjen e koncepteve të devijimit standard, korrelacionit, analizës së regresit dhe aplikimin e këtyre metodave në studimin e shumëllojshmërisë së karakteristikave të njeriut-lartësia, pesha, gjatësia e qepallat ndër të tjera. Pearson zhvilloi koeficientin e korrelacionit të momentit të produktit Pearson, të përcaktuar si një moment-produkt, metoda e momenteve për përshtatjen e shpërndarjeve në mostra dhe shpërndarjen Pearson, mes shumë gjërave të tjera.
