من بدايتها، لم تكن علاقة عمارة اليمني بصلاح الدين الأيوبي جيدة. والقصيدة التي أرسلها إليه حملت الكثير من الود والحنين تجاه العهد الفاطمي. 

  ولئن حاول صلاح الدين تفهّم حالة هذا الشاعر، فإن عمارة اليمني كان يشعر أن دائرة الأدباء حول الملك لا يريدون لشاعر مثل عمارة الاقتراب من سيد العرش الجديد. والفرق بين عمارة اليمني وأقرانه ومنافسيه من شعراء مصر يومها، أن الرجل ليس مجرد شاعر ومتكلم يطرب أسماع الملوك ويلفت انتباهم، ولكنه كان أيضاً سياسياً مقتدراً، ومحسوباً على الدائرة الضيقة لحكام العهد الفاطمي (البائد).

  وبسبب ممارسته السياسة، فقد كان متهماً في اليمن بمؤازرة علي بن مهدي ضد بني نجاح في زبيد، وهو المقرب إليهم وصاحب الحظوة لدى أم فاتك النجاحي. تلك التهمة كادت أن تكلفه حياته، لذلك قرر الرحيل إلى مكة. وأثناء بقائه هناك، ذاع صيته، فتلقفه أميرها بالحفاوة وأوفده إلى مصر في مهمة سياسية، ليس من بينها مؤهلاته كشاعر، ولكن كسياسي مقتدر، وقيل إن شريف مكة القاسم بن فليتة، كان قد سبق له التعرف إلى عمارة اليمني، وأوفده في مهمة سابقة إلى مصر ونجح فيها.

 يقول الشاعر عبدالله البردوني: "إن عمارة الحكمي من أكثر الشعراء مخاطرة في غمار الأسفار السياسية، وقد يشبه ابن زيدون في فترة الخط الزيدوني، وقد يشبه المتنبي في تنازع الحمدانيين عليه، غير أن عمارة كان أكثر حياته سفيراً سياسياً وشريكاً في وضع السياسة، في ظل كل قصر تفيأ فيه ظله".

لعل سيد العرش الجديد في مصر، ركز اهتمامه على عمارة اليمني من أول لحظة صادفه فيها. وذكر المقريزي في كتابه "المواعظ والاعتبار" قصة أشار فيها إلى وفاء عمارة اليمني وشجاعته، أنه عندما مات الخليفة العاضد، حضر عمارة اليمني ومعه الرضي أبو سالم يحيى الأحدب بن أبي حصيبة، الشاعر في قصر اللؤلؤة الشهير، وكان في القصر نجم الدين أيوب بن شادي (والد صلاح الدين) قادماً من الشام، وقيل كان صلاح الدين موجوداً أيضاً، فأخذ ابن أبي حصيبة ينشد ممتدحاً بني أيوب، وأخذ يذم الخليفة العاضد المتوفى لتوه، ومن جملة ما قال بن أبي حصيبة:

يا مالك الأرض لا أرضى له طرفاً         منها وما كان منها لم يكن طرفا

قد عجّل الله هذي الدار تسكنها             وقد أعدّ لك الجنات والغُرفا

تشرفتْ بك عمّن كان يسكنها              فالبس بها العز ولتلبس بك الشرفا

كانوا بها صدفاً والدار لؤلؤةً               وأنت لؤلؤةً صارت بها صدفا

‍

فقام عمارة اليمني يرد عليه في الحال:

أثمت يا من هجا السادات والخلفا          وقلت ما قلته في ثلبهم سخفا

جعلتهم صدفاً حلواً بلؤلؤةٍ                  والعُرف ما زال سكنى اللؤلؤ الصدفا

وإنما هي دارٌ حل جوهرهم                فيها وشفّت فأسناها الذي وصفا

فقال لؤلؤةً عجباً ببهجتها                  وكونها حوت الأشراف والشُرفا

فهم بسكناهم الآيات إذ سكنوا             فيها ومن قبلها قد أسكنوا الصحفا

والجوهر الفرد نورٌ ليس يعرفه            من البرية إلا كل من عرفا

لولا تجسمهم فيه لكان على              ضعف البصائر للأبصار مختطفا

فالكلب يا كلب أسنى منك مكرمةً        لأن فيه حفاظاً دائماً ووفا

انخرط عمارة اليمني في خلية لتدبير انقلاب مباغت على الملك الجديد، وتنصيب ولد الخليفة العاضد مكانه.

  هذا الموقف لا شك يلفت الانتباه، ويبدو أن بني أيوب قد فتحوا أبصارهم تجاه مثل هذه الأصوات التي لم تنفصل عن الماضي من الناحية الوجدانية. ولعل ذلك ما جعل عمارة محطّ المراقبة شأنه شأن عديدين من رموز العهد القديم (الفاطمي). وربما بسبب حالة الضيق والعوز التي عاشها الرجل، انخرط عمارة اليمني في خلية لتدبير انقلاب مباغت على الملك الجديد، وتنصيب ولد الخليفة العاضد مكانه.

وإذا ما صدقت الرواية أن جماعة بينهم عمارة، قد تورطوا في مراسلة الصليبيين (الفرنجة) إلى صقلية والشام واستدعائهم إلى مصر، فإن الرجل قد ارتكب جرماً سياسياً لن يغتفر. وكما رجّح بحث لنيل درجة الدكتوراه عن شخصية عمارة اليمني في مصر مطلع الثلاثينيات، أعده ذو النون المصري، أستاذ الدراسات العربية بكلية المعلمين في القاهرة، أن مقصد أعضاء الخلية "أن الفرنج إذا قصدوا البلاد وخرج إليهم صلاح الدين يقيم في القاهرة ويرسل جنوده لتقابل الفرنج قام المتآمرون في وجهه، وقبضوا عليه، وأخذوه أخذاً باليد، وفي كلا الحالتين يعيدون الدولة العلوية بإجلاس أحد أبناء العاضد على كرسي الخلافة". 

وكما تؤكد المراجع أن عمارة اليمني كان يتزعم هذه الخلية، وكان قد أخذ احتياطه، عندما شجع توران شاه (شقيق صلاح الدين) على فتح اليمن، ثم رفض مرافقته في النهاية. وكانت خطة عمارة اليمني من إرسال توران شاه على رأس جيش كبير إلى اليمن، حتى يأخذ جانباً كبيراً من الجنود فيضعف جانب صلاح الدين في مصر والقاهرة . 

يقول الدكتور ذو النون المصري: "ثم خطت الجماعة خطوة جريئة أخرى، فقبل أن ينفذوا مؤامرتهم، اتفقوا فيما بينهم على تعيين الخليفة والوزير، وتقاسموا الدور والأملاك". وهكذا حيكت المؤامرة، ولم يبق إلا تنفيذها، ولكن الغطاء انقشع وانكشف سر وخبايا هذه القصة.

وقيل في انكشاف أمرها، أن الفقيه الواعظ زين الدين بن نجا، قد أدخلوه بينهم، وكان مطّلعاً على جميع أمورهم، فنقل الخبر إلى صلاح الدين، "كما أتى الخبر من بلاد الفرنج، عن طريق رسول أتي في الظاهر إلى صلاح الدين، وفي الباطن إلى أعضاء الخلية، فوضع صلاح الدين على الرسول من يثق به من النصارى، فأخبره الرسول بالخبر على حقيقته".

وأيًّا كان، فقد ألقى صلاح الدين القبض على المجموعة وأقروا، فأمر بصلبهم. ويذكر بعض المؤرخين سبباً آخر لقتل عمارة؛ أن صلاح الدين لما توجّه إلى الشام استناب عنه في مصر ابن أخيه تقي الدين عمر، فبلغه ولوع عمارة بمراثي العاضد، والتعريض بغيره، فأمر بشنقه، فاستشفع بالقاضي الفاضل على ألا يعود إلى مثل ذلك، فشفع فيه، فقبلت شفاعته، ثم بلغ تقي الدين أن عمارة قال:

عظمتما الأمر وفخمتماه              ما ابن شاهٍ شاه إلا ابن شاه

ومن تكون الشاة أماً له               فما يكون التيس إلا أباه

فأمر بشنقه لثاني مرة، فلما بلغ عمارة ذلك، ذهب إلى القاضي الفاضل عبدالرحيم، وقال له:

عبدالرحيم احتمل صداعي            فالرأس يعتاده الصداع

فضحك منه، وشفع فيه. ولكن تعلق صاحبنا بالفاطميين، وحسرته على ما فرط من أيامهم، أنسته خطر الشنق، فقال يرثيهم من جديد:

لي بالديار غداة البين وقفات              أبكي رسوماً خلت منهن سادات

هي المنازل لي فيها علامات             من بعد سكانها أهل العلا ماتوا

منازل العز تبكيني بسعيهم               منازل لم تزل عندي عزيزات

ومنها في التعريض بالأيوبيين:

قد مات قوم وما ماتت مكارمهم                      وعاش قوم وهم في الناس أموات

يا رب إن كان لي في وصلهم طمع                 عجل علي ففي التأخير آفات

  وإلى هنا لم يعد الأمر يطاق، فأمر بشنقه. فلما بلغ عمارة ذلك اتجه إلى باب القاضي الفاضل للمرة الثالثة، فأُخبر أنه نائم، فخرج ليهرب، وهو يقول:

عبد الرحيم قد احتجب                  إن الخلاص هو العجب

"ولكن الرُسل أدركوه فأمسكوا به وشُنق"، كما جاء في "كتاب الانتصار" لابن دقماق.

وحقق بعض المؤرخين يوم شنقه بالتأريخ الميلادي، فانتهوا إلى أنه شنق يوم 6 أبريل/ نيسان 1174.