盡管人工智能驅動的營銷技術（martech）確實強大，但不專業的培訓、還不夠成熟的算法設計和隱藏的誤差會很快破壞一切市場活動。

在誤差影響你的品牌之前，你如何識別和減輕誤差呢？

Martech中的算法偏差和偏見問題
聯合利華旗下的個人護理公司多芬剛剛成為業內第一個承諾不在廣告中使用生成人工智能的品牌。附帶的兩分鐘視頻描述了“最漂亮的女人”和“完美皮膚”等搜索詞返回人工智能生成的模型。
這段視頻從不可思議的完美無瑕的臉切換到真實的女性，突顯了不可能的美麗標準的影響。這一舉措是多芬真正美麗運動的一部分，這是一項為期20年的運動，專注于展示所有身體、皮膚和頭發類型。
多芬可能是第一個承諾這樣做的人，但可能不是最后一個。此前，其他多個品牌因嘗試人工智能生成的內容而受到抨擊。評論家和消費者都聲稱這些工具有利于造成某些刻板印象和種族歧視。
《華盛頓郵報》對生成性內容中的偏見的研究似乎證明了多夫的觀點。當被要求創造一個“美麗”的女人時，主要的生成模型——包括Midjourney、Stable Diffusion和DALL-E——更傾向于瘦、淺膚色的女性。
Midjourney近90%的照片描繪了淺膚色的女性。DALL-E和Stable Diffusion的表現勉強好一些，分別只有38%和18%的人有深色皮膚。這一證據表明，martech中的潛在算法偏差是明顯的。

算法偏差如何影響營銷人員
martech中的算法偏見會影響消費者對公司的看法。如果它足夠醒目或一致，可能會影響品牌的收入、聲譽或轉化率：
?溝通不暢：由于88%的網站訪問者在經歷了糟糕的體驗后不太可能再次訪問，因此表現出偏見的聊天機器人對業務不利。
?無意義的促銷：客戶可能會看到基于刻板印象的無關廣告，而不是真正的瀏覽或購買行為，從而影響銷售。
?不準確的定價：人工智能驅動的市場技術可能會使用歧視性的定價做法，根據傳統印象和偏見對某些群體收取不同的費用。
?無關建議：雖然相關建議使客戶購買的可能性增加了35%，但無關建議會影響收入。
?傳統印象細分：偏見或者誤差模型可能會扭曲特征的權重，根據過往經驗將客戶分為不準確的細分。
?不可靠的預測：不準確的數據集會導致決策不明智和經濟損失。一項調查顯示，數據偏差可能導致高達62%的收入損失。
忽視martech中算法偏見和誤差會潛在影響營銷人員，這可能會導致失去網站流量，激怒客戶，錯過潛在的銷售機會。

識別和減輕誤差的方法
一般來說，如果你搜索生成式人工智能，它的算法誤差是顯而易見的。然而，各種模型都會產生有誤差的輸出，而且往往很難識別。你應該知道如何識別它，以便去減輕它。
您的首選方法應該是在將模型的數據饋送集成到您的martech之前對其進行審核。盡量減少訓練中的固有的傳統印象、無意義的假設和毫無根據的判斷，這可以防止訓練變得不公平或偏執。
Your go-to系統是最有效的方法之一，因為它將你團隊的一名營銷專業人員與人工智能配對。這個人會審查其輸出的數據，確保只有高質量、相對無誤差的材料才能呈現給消費者。
另一種方法是分析你所在行業的過往歷史和當前誤差狀態。由于某些用例對特定社區的偏見可能性高于其他用例，因此評估更廣泛的誤差范圍可以幫助您確定其可能性。
無論你將哪種類型的AI集成到martech中，你都應該確保開發一個反饋循環。由于機器學習模型基于反饋和交互進行學習，因此隨著時間的推移，不充分地解決有誤差或者偏見的輸出會不斷強化錯誤，從而使問題永久化。

關于公平和包容性的考慮
偏見和誤差將永遠存在于營銷中，因為它是社會規范和現代期望的副產品。在實踐中優先考慮公平性和包容性，以盡量減少它：
?多樣化數據集：在各種文本、圖像、音頻和視頻上訓練人工智能驅動的martech可以幫助它學會包容。
?透明：優先考慮透明度向您的客戶表明您重視公平，并努力成為一個包容、道德的品牌。
?不要過度個性化：過度個性化會導致內容缺乏多樣性，以及用戶疲勞。在某些情況下，優先考慮用戶體驗而不是超個性化。
在當今時代，優先考慮公平和包容性將使你的品牌走得更遠。傾聽客戶對人工智能和偏見營銷技術的擔憂，為決策提供信息。

AI驅動Martech的誤差底線
雖然沒有什么是真正沒有誤差的，但如果你定期審核模型的輸出，檢查你的martech的準確性，并聽取客戶的反饋，你就可以接近目標。
在人工智能備受關注的時代，勤奮和保持一致性將帶來更好的業務成果。