เด็กหนุ่ม คุโด้ ชินอิจิ ยอดนักสืบนักเรียนมัธยมปลาย วัย 17 ปี ถูกขนานนามว่า “ยอดนักสืบแห่งยุคเฮเซย์” วันหนึ่งไปเที่ยวกับเพื่อนสมัยเด็กที่ชื่อโมริ รัน หลังจากเป็นแชมป์คาราเต้ระดับเขต หลังปิดคดีได้ ชินอิจิแอบไปรู้เห็นเจรจาลับของชายชุดดำ โดยไม่ระวังถูกชายชุดดำอีกคนทำร้าย ก่อนสลบถูกจับกรอกยาพิษAPTX4869 ที่องค์กรคิดค้นขึ้น แต่ยาพิษนั้นกลับทำให้ชินอิจิตัวเล็กลงจนกลายเป็นเด็กอายุ 7 ขวบและเปลี่ยนชื่อใหม่เป็น เอโดงาวะ โคนัน ด้วยความช่วยเหลือของ ดร.อากาสะ ฮิโรชิ เพื่อสืบหาเบาะแสร่องรอยของชายชุดดำและเพื่อนำยาพิษ มาหาทางรักษาให้คืนร่าง ได้ไปอยู่กับโมริ รัน ที่สำนักงานนักสืบโมริ ซึ่งคุณพ่อของรัน โมริ โคโกโร่ เป็นนักสืบเอกชน แต่ก็พึ่งไม่ได้ โคนันจึงได้ใช้สติปัญญาของตนกับสิ่งประดิษฐ์ของ ดร.อากาสะ ฮิโรชิ คลี่คลายคดีต่างๆ แทนเพื่อให้โคโกโร่มีชื่อเสียงขึ้นมาและรอผู้จ้างวานที่จะได้เบาะแสของชายชุดดำ เพราะอยู่ในร่างของเด็กจึงต้องกลับไปเรียนชั้น ป.1 ที่โรงเรียนประถมเทตันใหม่อีกครั้งและได้ก่อตั้งขบวนการนักสืบเยาวชนกับเพื่อนร่วมชั้นอย่าง โยชิดะ อายูมิ, ซึบุรายะ มิซึฮิโกะ, และ โคจิมะ เก็นตะ การสืบหาชายชุดดำและยาแก้พิษของโคนันก็ได้เรื่อยมา ได้เกิดคดีต่างๆและค้นพบบุคคลสำคัญต่างๆ ที่เกี่ยวข้องกับพวกชายชุดดำมากขึ้นอย่าง มิยาโนะ อาเคมิ 1 ในสมาชิกปลายแถวในองค์กรชุดดำ มิยาโนะ ชิโฮะ หรือ ไฮบาระ ไอ มีโค้ดเนมว่าเชอร์รี่อดีตสมาชิกองค์กรชุดดำและนักวิทยาศาสตร์ 1 ในทีมคิดค้นยา APTX4869 ที่ทำให้โคนันตัวเล็กลง มาช่วยหาทางทำยาคืนร่าง แต่มีผลแค่ชั่วคราวตลอด

หลังมีข่าว คุโด้ ชินอิจิมีชีวิตอยู่ หลังหายสาปสูญไปนาน แพร่ไปทั่ว(โคนันกินยาคืนร่างชั่วคราว ไปทัศนศึกษากับโรงเรียน แต่พัวพันกับคดี) โชคดีที่พวกคนที่รู้ตัวจริงของโคนันช่วยปิดข่าวทัน ครอบครัวคุโด้จึงรวมตัวปรึกษากัน เรื่องเบาะแสของคนที่ถูก RUM ฆ่าก่อนตายทิ้งไว้ กับโค้ดของ RUM มาสลับกัน จนรู้ว่า บอส เกี่ยวข้องกับ คาราสุมะ เรนยะ(เศรษฐีที่มีอำนาจทางการเมืองที่สุดในญี่ปุ่นที่น่าจะตายไปแล้วในอดีต) พ่อแม่จึงคิดอยู่ญี่ปุ่นเพื่อคิดแผนหาทางช่วย ซึ่งคือการยืนยันว่าถึงครึ่งเรื่องแล้ว

อย่างไรก็ดียอดนักสืบจิ๋วโคนันเป็นการ์ตูนเรื่องยาวที่มีการดำเนินเรื่องราวคดี, ความสัมพันธ์และความรักของตัวละคร, และองค์กรชุดดำที่ดำเนินไปอย่างช้าๆ โดยยังไม่มีการกล่าวถึงตอนจบแต่ประการใดแต่ได้มีการแต่งฟิคตอนจบมากมายโดยแฟนคลับที่ติดตามโคนัน