У 1995 році під час своєї поїздки в Сполучені Штати Ма Юнь вперше зіткнувся з Інтернетом. Його життя змінилося. У квітні 1995 року Ма Юнь заснував веб-сайт «Жовті сторінки Китаю», який був першим у світі сайтом ділової інформації китайською мовою, найпершою моделлю Інтернет бізнесу для підприємств. З 1997 року Ма Юнь почав працювати в Міністерстві зовнішньої торгівлі та економічного співробітництва Китаю, де відповідав за розвиток офіційного сайту міністерства і ринку китайських товарів в Інтернеті.

Через два роки Ма Юнь офіційно залишив свій пост і зі своєю командою співробітників повернувся в Ханчжоу. У березні 1999 року, вклавши 500 тис. юанів, вони почали створювати сайт Alibaba. На підставі досвіду в Інтернет бізнесі Ма Юнь запропонував звернути увагу і віддавати пріоритет розвитку електронної комерції за моделлю бізнес-бізнес (B2B). Його погляди і модель розвитку Alibaba незабаром привернули увагу міжнародної Інтернет спільноти, а його модель бізнесу назвали «четвертою моделлю Інтернету».

Ма Юнь завдяки філософії управління, що поєднує «мудрість Сходу, оперативність Заходу, глобальність ринку», зумів швидко залучити фахівців високого рівня з усього світу. Він створив досконалу платформу електронної комерції для китайських підприємств, особливо малих і середніх підприємств, для вирішення завдань вступу до СОТ.

Успіх сайту Alibaba призвів до того, що Ма Юнь був запрошений для читання лекцій у провідних університетах світу, в тому числі в бізнес школі Wharton School університету Пенсільванії, Массачусетському технологічному інституті і Гарвардському університеті. Гарвардський університет двічі включав практику управління бізнесом Alibaba як приклад для курсу MBA.

Створений Ма Юнем сайт Taobao успішно відкрив унікальний китайської шлях індивідуальної торгівлі в Інтернеті. Почавши свою роботу з першого кварталу 2005 року, Taobao став найбільшим в Азії сайтом з продажу та купівлі товарів.

У 2005 році Ма Юнь почав стратегічне співробітництво з найбільшим порталом у світі Yahoo і об'єднав з ним всі активи в Китаї. Alibaba, таким чином, стає найбільшою Інтернет компанією Китаю. Поява Alibaba сприяла формуванню комерційної репутації, створенню необмежених можливостей для малих і середніх підприємств в умовах жорсткої міжнародної конкуренції.

На цей час обсяги бізнесу Alibaba перевищують спільні обсяги eBay і Amazon, що становить 2% від ВВП Китаю. Alibaba дає 70% перевезень товарів у Китаї; близько 80% бізнес операцій здійснюються у мережі Alibaba. На цей час кількість користувачів китайського Інтернету досягла 600 мільйонів чоловік, як очікується, в найближчому майбутньому, Китай перевершить США в якості найбільшого в світі ринку електронної комерції.

У грудні 2013 року американський журнал «Time» оголосив Ма Юня людиною 2013 року. Британська "Файненшл таймс", також оголосивши засновника мережі Alibaba людиною року, назвала Ма Юня хрещеним батьком китайських підприємців, справжнім творцем Інтернет сектора в Китаї.