اتفق المؤرخون على أن اسمه يحيى بن عيسى بن جَزْلَة إلا أن ابن أبي أصيبعة قال: هو: يحيى بن عيسى بن علي ابن جزلة وتبعه من المحدثين عمر كحالة، ولعل ابن أبي أصيبعة أخَّر الكنية (أبو علي) فحرفت بعد ذلك، ولد لأبوين مسيحيين، وتعلم في مراحل حياته الأولى اللغة العربية ومبادئ المسيحية ثم درس علوما عديدة، وأسلم سنة 466هـ. قرأ الطب على نصارى الكرخ، وأراد قراءة المنطق فلم يكن في النصارى المذكورين في ذلك الوقت من يقوم بهذا الشأن، فذُكر له أبو علي بن الوليد محمد بن أحمد شيخ المعتزلة، الذي كان السبب في إسلامه بعد أن ذكر له الدلائل الواضحة فأجاب وحسن إسلامه. عمل بعد إسلامه كاتبا للسجلات بين يدي قاضي القضاة أبي عبد الله الدامغاني، وقد أهله لذلك أسلوبُه في الكتابة وحسن خطه، فقد كان شغوفا بالنظر في الأدب، ويبدو أنه مارس هذا العمل في مقتبل حياته، ولا شك أن نسخه لكتب العلماء قد ساعده على الإفادة منها، وأتاح له فرصة الوقوف على مناهج تأليفهم. عمل ابن جزلة أيضًا طبيبا وصيدلانيا، فعالج المرضى وقام بتركيب الأدوية للفقراء من ماله الخاص، اتسم بالكرم والسخاء والتواضع والشعور بمعاناة المرضى من الفقراء والمحتاجين، وكان إماما للطب في عصره، وقام بعلاج أكابر بغداد كقاضي القضاة أبي عبد الله الدامغاني. ساعده علم المنطق على مناقشة العديد من آراء العلماء ومناظرتهم، واستطاع من خلال الأسلوب القائم على المقدمات المنطقية واستخلاص النتائج السليمة؛ إثبات صحة رأي أو دحض ادعاء، وقد شهد له الذهبي بذلك فقال "كان ذكيا صاحب فنون ومناظرة واحتجاج"، وقد أوقف كتبه التي أنفق ثروته في شرائها صدقة جارية؛ فأودعها في مشهد الإمام أبي حنيفة.