Дом Облачные вычисления Облачный императив - что, почему, когда и как - технически транскрипт эпизода 3

Облачный императив - что, почему, когда и как - технически транскрипт эпизода 3

Anonim

Эрик Кавана: Дамы и господа, здравствуйте и еще раз добро пожаловать в TechWise. Меня зовут Эрик Кавана. Я буду вашим модератором для Эпизода 3. Это новое шоу, которое мы разработали с нашими друзьями из Techopedia, очень крутой веб-сайт, который явно фокусируется на технологиях, и, конечно, здесь, в The Bloor Group, мы с большим интересом ориентируемся на предприятия технологии. Итак, корпоративное программное обеспечение всех видов и весь формат TechWise были разработаны, чтобы дать нашим посетителям действительно хороший взгляд на конкретное пространство. Итак, мы сделали Hadoop, например, мы провели аналитику на последнем шоу, и в этом конкретном шоу мы говорим о облаке.


Итак, он называется «Облачный императив - что, где, когда и как». Сегодня мы поговорим с парой аналитиков, а затем с тремя поставщиками. Итак, Qubole, Cloudant и Attunity являются спонсорами сегодняшнего шоу. Огромное спасибо тем людям за их время и внимание сегодня и большое спасибо, конечно, всем вам там. И имейте в виду, что как участники этих шоу, вы играете значительную роль. Мы хотим, чтобы вы задавали вопросы, принимали участие, становились интерактивными, дайте нам знать, что вы думаете, потому что, очевидно, вся цель шоу здесь - помочь вам, ребята, понять, что происходит в мире облачных вычислений.


Облачная повелительная колода

Итак, давайте двигаться дальше. Первый хозяин, ваш хозяин там, Эрик Кавана, это я, а затем у нас есть доктор Робин Блур, звонящий из аэропорта, и наш хороший друг Гилберт, Гилберт Ван Кутсем, независимый аналитик, тоже поделится некоторые мысли с тобой. Затем мы услышим от Ашиша Тую, генерального директора и соучредителя Qubole. Мы услышим от Майка Миллера, главного ученого в Cloudant и, наконец, от Лоуренса Шварца, вице-президента по маркетингу в Attunity. Итак, сегодня у нас есть много контента для вас.


Итак, облако - эдикт сверху - это концепция, которая пришла ко мне на днях, когда я думал об этом. Действительно, облачные вычисления в наши дни просто огромны. Я имею в виду, что действительно интересно наблюдать за развитием этого материала, и один из примеров, которые я часто привожу, - это сама технология веб-вещания. Конечно, те из вас, кто набрал номер раньше, слышали о некоторых интересных технических проблемах. Это одна из проблем облака: оно меняется, меняются форматы, меняются стандарты, меняются интерфейсы, и иногда, когда вы пытаетесь соединить две разные области вместе, вы сталкиваетесь с трудностями, у вас возникают проблемы. Так что на самом деле это одна из вещей, о которой стоит беспокоиться в облачных вычислениях. Будьте осторожны с архитектурой! Вы можете увидеть это в последнем пункте.


Одна из вещей, которую мы делаем, как примечание здесь, для нашей веб-трансляции, - у нас есть отдельный поставщик телефонных конференций. Тогда мы используем WebEx. Мы не используем аудио WebEx, потому что, честно говоря, однажды мы использовали аудио WebEx много лет назад, и он сломался и сгорел самым неприятным образом. Таким образом, мы не хотим снова рисковать. Таким образом, мы используем нашу собственную звукозаписывающую компанию Arkadin на самом деле и объединяем в реальном времени все эти разные решения. И идея заключается в том, что мы могли бы затем отправить вам электронное письмо с отдельным приложением электронной почты со слайдами на случай, если, например, WebEx потерпит крах, мы попросим вас набрать номер, мы отправим вам электронные письма со слайдами и просто пройдемся по ним больше или меньше без среды WebEx. Таким образом, вы можете обойти эти проблемы, но такие проблемы повсюду.


Но есть много преимуществ для облака. Очевидно, что это низкий барьер для входа, вы можете взглянуть на постер дочерних облачных вычислений, конечно же, salesforce.com, который просто революционизировал бизнес, особенно автоматизацию отдела продаж. Но у вас есть такие вещи, как Marketo, iContact, Constant Contact и Sailthru, и, черт возьми, с точки зрения автоматизации маркетинга и продаж, существует множество инструментов, но это еще не все. HR распространяет это на всю облачную игру, аналитика - на облачную игру. Посмотрите на эту малоизвестную компанию Amazon Web Services, которая занимается облачными вычислениями - это просто грандиозно. И на днях я услышал отличную цитату из парня, с которым мы много работаем с Дэвидом, который сейчас работает в Cisco, по сути, в компании, которая купила WebEx. Не уверен, что они вложили столько, сколько я хотел бы, чтобы они вложили в WebEx, но это не совсем мое решение, не так ли? Но он в Cisco в эти дни, и у него была очень забавная, просто содержательная цитата: «Нет ни одного облака, а много облаков», и это совершенно верно. Там много-много облаков. Фактически каждый облачный провайдер - это свое собственное облако. Итак, одна из проблем в наши дни - подключить облако, верно? Если вы работаете в отделе продаж, было бы неплохо подключиться напрямую к iContact, постоянному контакту и, например, к LinkedIn, а также к Twitter и другим средам, другим облакам, которые просто объединяют бизнес-решения, которые имеют смысл для вас. и ваша компания.


Итак, вот некоторые вопросы, которые нужно иметь в виду, но облако здесь, чтобы остаться. Просто знайте, что об этом, локальное программное обеспечение здесь, чтобы остаться. Итак, что мы должны выяснить на предприятии или в любом малом или среднем бизнесе, как вы определяете свою архитектуру и поддерживаете ее так, чтобы вы могли использовать облако, не создавая гиганта где-то еще вне вашего контроля? Таким образом, очевидно, что вся индустрия хранилищ данных развивалась вокруг необходимости консолидировать критически важную информацию, чтобы анализировать эту информацию и принимать лучшие решения.


Что ж, теперь Amazon Web Services имеет Redshift. Это одна из самых больших веб-трансляций, которые мы когда-либо делали, была с Redshift. Это довольно большое дело. Они меняют динамику, они меняют структуру ценообразования. Вы можете наблюдать, как снижаются цены на традиционное корпоративное лицензирование программного обеспечения, отчасти из-за облачных вычислений, а отчасти потому, что эти люди снижают цену, оказывая давление на цену. Итак, это хорошая новость для конечных пользователей. Это то, что нужно иметь в виду, безусловно, для тех, кто пытается использовать некоторые из этих технологий. Итак, об этом нужно помнить, и мы поговорим об этом сегодня на шоу.


Итак, аналитик доктор Робин Блур станет нашим первым аналитиком за день. Итак, я пойду вперед, нажму на его первый слайд и передам ему ключи. Робин, я думаю, ты где-то здесь, вот ты где. И с этим я собираюсь передать его, и слово ваше!


Доктор Робин Блур: Хорошо, Эрик. Спасибо за это введение. Я столкнулся … пару дней назад я натолкнулся на опрос потребителей, который фактически задал вопрос - как вы думаете, штормовая погода мешает облачным вычислениям? И более 50 процентов из них сказали «да». Я просто подумал, что дам вам знать, что это не так, если вы один из тех, кто верит в это. И потом, это немного похоже на веру в то, что, знаете, когда у вас есть снег по телевизору, это потому, что на улице идет снег.


Облако, вы знаете, одна из вещей, это своего рода, вы знаете, важная, если хотите, простая деталь облака - это то, что облако на самом деле является центром обработки данных, так или иначе, или какая-то конкретная облачная служба дата-центр. Единственное, это центр обработки данных, отличный от традиционного облака. Итак, я собирался поговорить в общих чертах об облаке, чтобы в качестве резервной копии более подробно рассказать об использовании облака, потому что нет смысла покрывать ту же тему.


Итак, первое, на что я бы хотел обратить внимание, это то, что облако - это сервис, понимаете? И одна из вещей, которая на самом деле происходит из-за облачных вычислений, заключается в том, что … ну, я называю смерть брендов, целая серия брендов программного обеспечения обладала огромной властью и продолжает обладать мощью в корпоративных вычислениях. Когда вы попадете в облако, у них больше не будет силы, понимаете? Когда вы покупаете облачный сервис, вы заботитесь о приложении, конечно же, вы заботитесь об уровне сервиса, который вам предоставит облако, вы не хотите, чтобы облачный сервис часто выходил из строя, вы заботитесь о стоимости использования и заботитесь об этих все потому, что это сервис, но больше вас не волнует то, что вам не важно, на каком оборудовании оно работает, вам не важно, что такое сетевая технология, вам не важно, какая операционная система он работает, вас не волнует, что такое файловые системы, вам даже не важно, что такое база данных, и что она на самом деле используется определенными сервисами баз данных вне облака, понимаете? И влияние этого в некотором смысле заключается в том, что облако - это огромное количество программных брендов, которые не имеют реальной ценности в облаке, потому что, вы знаете, вы переходите в облако тем или иным способом за что-то, что является услугой, а не больше продукт. Итак, я подумал, что мог бы сделать пару слайдов причин, чтобы не использовать облако, вы знаете, и это все, если хотите, чертовски простые, очевидные причины, но кто-то должен был их изложить, так что я думал, что буду.


Итак, причины не для меня … не использовать облако - если они не могут предоставить данные и управление процессами, которые вам нужны, вы знаете, тогда оно просто не соответствует вашим критериям. Если они не могут дать вам ту производительность, которую вы хотите, она не будет соответствовать критериям. Если облако дает вам гибкость с точки зрения того, как вы можете перемещать вещи, тогда оно не будет соответствовать критериям. Это просто очевидные причины, по которым определенные облачные сервисы не подойдут очень большому количеству людей, кроме корпоративных вычислений.


Вы не можете сделать это, потому что вы можете сделать это дешевле. Облако не всегда самый дешевый вариант. Некоторые люди, кажется, думают, потому что это часто недорогой вариант, он всегда будет дешевле, он не всегда дешевле. И еще одна вещь: если вы берете приложение из облака, оно плохо интегрируется с тем, что вы делаете, тогда вы, вероятно, не собираетесь его продвигать, и это, как вы знаете, причины для отказа,


Вот причины принять. Вы знаете, одна из вещей, которую вы можете сделать в облаке, в значительной степени пуленепробиваемая, это макетирование. Если вы либо можете создавать прототипы в облаке и внедрять их в центре обработки данных, это вполне жизнеспособно, и этим занимается огромное количество людей. Вы можете загружать работу из центра обработки данных с некритическими приложениями, потому что, возможно, вы сможете найти некую облачную службу, которая будет соответствовать вашему уровню обслуживания, для некритических вещей. И вы можете загружать конкретные приложения, такие как salesforce.com и аналогичные предложения, к которым, вы знаете, стандартные приложения. У каждого есть возможности в этой области, и область не специализирована, и, вы знаете, традиционные … все, что доступно в облаке, вероятно, будет тем, чем вы пользуетесь.


Итак, последнее, что я хотел сказать, это действительно довольно интересная вещь: когда вы действительно ищете облако, один из способов понимания - это просто экономия от масштаба. Все дело в том, что, вы знаете, работает центр обработки данных там, и вы собираетесь откуда-то дозвониться до этого центра обработки данных и использовать его, и поэтому, было бы лучше, лучше было бы в основном дешевле, чем если бы ты делаешь это сам. Итак, вы знаете, это на самом деле все об экономии масштаба.


Облачные провайдеры выбирают местоположение центра обработки данных, и лучшее место для размещения центра обработки данных находится рядом с электростанцией, особенно рядом с недорогой электростанцией. Итак, одна электростанция на севере, которая оказывается гидроэлектростанцией или что-то в этом роде. Это обычно самый дешевый, вы знаете? Вы можете найти там центр обработки данных, и вам будет проще. В таких местах дешевле нанимать людей, чем в центре Нью-Йорка или Сан-Франциско. Вы можете стандартизировать весь объект с точки зрения кондиционирования воздуха и мощности. Это сэкономит вам много, потому что это означает, вы знаете, вы можете выдать ему целое здание, и это именно то, что делают все облачные операторы. Они стандартизируют сетевое оборудование, они стандартизируют используемое ими компьютерное оборудование, обычно это обычные платы x86, часто они сами собирают их. Таким образом, некоторые даже на самом деле создают все это. Они будут использовать программное обеспечение Amazon, которое они могут, потому что на самом деле это означает, что его принятие не требует никаких затрат. Они будут стандартизированы во всем программном обеспечении. Таким образом, они никогда не обновят ничего, кроме как обновить все сразу. Они организуют поддержку. Таким образом, они будут оплачивать поддержку множества различных провайдеров, которые просто имеют свои собственные средства поддержки. У них будет возможность масштабирования и масштабирования в том смысле, что они будут работать больше, чем вы когда-либо работали бы с такими услугами, и они будут контролировать свое использование так, как это не может сделать большинство центров обработки данных, потому что они в некотором роде работают только один стандартизированный сервис, но в большинстве центров обработки данных работает целый ряд вещей. И именно в этом заключается облако, и оно определенным образом может определить, интересует ли оно вас или нет для какого-либо конкретного приложения. Итак, вы знаете, мое грубое эмпирическое правило заключается в том, что там, где возможна экономия от масштаба, облако рано или поздно вступит во владение. Но способ инновации и гибкости и очень конкретные вещи, которые вы идете сами, на самом деле не может. Облако всегда будет вторым лучшим.


Ладно. Позвольте мне передать это Эрику или Гилберту.


Эрик Кавана: Хорошо, Гилберт, я дам вам ключи от WebEx. Ожидать. Просто нажмите в любом месте на этом слайде и используйте стрелку вниз на клавиатуре.


Гилберт Ван Кутсем: Я думаю, что все под контролем.


Эрик Кавана: Вы контролируете.


Гилберт Ван Кутсем: Хорошо. Вот так. Облачный императив - небо - это предел, это городская легенда или что вы об этом думаете? Это всего лишь несколько разговоров и вещей для рассмотрения.


Во-первых, со стороны «что», вы знаете, как мы все знаем, я не думаю, что кто-то сомневается в этом. SaaS-ification остается здесь, потому что программное обеспечение на самом деле никогда не умирает, оно просто перемещается в облако, верно? Я думаю, что я сказал это раньше в предыдущем издании этого. О нет, или Эрик сказал мне это в предыдущем издании. И я думаю, что очевидная причина, и это в некоторой степени относится и к Робину, заключается в том, что с корпоративной стороны корпоративный график довольно прост. CMO всегда нуждается во всем, и он нуждается сейчас. Таким образом, он все о времени на рынок. Так грустно, это хорошее оправдание для него. Однако ИТ-директор немного нервничает по поводу SaaS и облаков, потому что, как вы знаете, вся проблема с эластичностью означает, что то, что растет, также должно уменьшаться. Вы должны быть готовы к уменьшению, но и к уменьшению. Итак, он немного нервничает по этому поводу. Финансовый директор не нервничает, не больше, чем обычно, но он говорит: «Эй, это … сколько это нас отбросит?» Это, вы знаете, печально известные капиталовложения против OPEX. Это довольно старо, но это очень, знаете, очень важно в этом мире. И, наконец, последнее, но не менее важное, конечно, генеральный директор. Он говорит: «О! Снижение риска! Ребята, вы все взволнованы, но готовы ли мы к этому?» Потому что риск - это то, о чем он думает.


Итак, каков риск? Всего несколько мыслей, верно? Здесь мы имеем дело с мысленным лидерством, но на незавершенном пути, потому что это все довольно новое, совсем недавнее. На самом деле у нас не так много точек данных, если подумать. И поэтому, мы также, с точки зрения риска, должны иметь дело с посадкой, вы знаете, люди, подписывающие соглашения, выглядят так: «Да, это то, что мы хотим, путь», они подписываются, но потом этого не достаточно. Вы знаете, вы должны иметь на борту людей и что, помните фильмы? Вернемся к переводу, это немного, вы знаете, что такое посадка. И потом, как только что сказал Робин, на премьере не обязательно уходить сразу. Итак, вы должны объединить оба мира. Это гибридный мир. И так, как ты собираешься это сделать? Это 80-20, правило 80-20, Парето, это нормально? Это достаточно хорошо? А затем мусор в / мусор, когда вы подключаете системы. Все хорошо? Это долговечно? Потому что, знаете ли, вы собираетесь мигрировать, собираетесь ли вы привязать свое предприятие к корневой системе, как вы собираетесь это сделать? И, наконец, последний, который, на мой взгляд, чрезвычайно важен, это многопользовательские архитектуры, что означает, что конфиденциальность данных в отношении ваших собственных данных, иногда это называется «владеть вашими собственными данными», становится очень важной, понимаете? Сотни людей, использующих одну и ту же систему, одна база данных находится ниже системы, кто увидит мои данные? Только я, верно? Вы абсолютно уверены в этом? Конфиденциальность данных, безопасность данных помогает экспертам. Если вы являетесь ИТ-директором, это возвращает «Я» в ИТ-директора, потому что теперь вы отвечаете за информацию. Это довольно интересно, если вы являетесь ИТ-директором.


Итак, давайте немного поговорим о «почему». Итак, стратегическое намерение всего этого очень, очень просто, я думаю. Если вы подписчик, на рынке есть давление. Если вы поставщик, существует конкурентное давление. Если у вас есть сверстники, есть давление со стороны сверстников. Если вы подписчик, это просто психология рынка. Все хотят перейти в облако, SaaS или как вы его называете, облако SaaS, нам всем нужно и мы хотим пойти туда. И причина обычно финансовая. Это очевидная причина, но если вы подумаете о финансовом аспекте, вы попадете в то, что я называю парадоксом счет-бюджет. Собираетесь ли вы получить подписку, системы «все, что вы можете съесть», 50, 500 долларов в месяц или что-то в этом роде, или вы мечтаете об использовании, основанном на том, что вы платите только за то, что действительно используете? И так, как это будет работать, на основе использования, на основе потребления? Собираетесь ли вы измерять все это? Это, вероятно, не произойдет сразу. Таким образом, вы получите гибридный механизм: я плачу 200 в месяц, а иногда и 500, потому что мне приходится платить за дополнительное потребление. Retainer Plus, по-моему, это будет путь, по моему мнению.


Но есть также кое-что, что я называю скрытым намерением на широком фронте, и я считаю, что, вы знаете, это абсолютно реально. Это смена контроля, это CIO против CMO, смена власти или борьба за власть между CMO: «Я хочу все это и хочу сейчас», и CIO, который говорит: «Эй, это все о данных, вы знаете? Я имел обыкновение работать, 20 лет назад, это было все о аппаратных системах. Десять лет назад было все о приложениях. Сегодня, это все о данных. А поскольку я - ИТ-директор - информация - это все о я. Я контролирую ". Итак, это своего рода смена власти или борьба за власть, которая, я полагаю, происходит прямо сейчас между этими двумя, CMO и CIO.


Итак, в конце концов, это все настолько молодо, что никто не знает, находимся ли мы в среде новаторов или в среде ранних последователей. Я полагаю, что мы находимся в среде ранних последователей, а не в раннем большинстве, просто в начале, но, вы знаете, на полпути. Итак, вы знаете, для клиента, конечного пользователя, подписчика, речь идет о начале работы, потому что CMO хочет начать работу, не так ли? И поэтому важно не заканчивать тем, что мы называем уменьшением прибыли. Ограничение старта может привести к уменьшению отдачи. Вот почему очень важно, вы знаете, найти, доверять сторонам, которые могут убедиться, что единственная точка отказа не является проблемой и что безопасность данных соблюдается. Таким образом, это потребует совсем немного управления изменениями. И так, в конце - почти готово, это последний слайд - как мы собираемся это сделать? Как переход в облако, переход на SaaS будет, как вы знаете, плавным и легким? Что ж, делая две вещи: обращать внимание - обеспечение - действительно важно, и адаптация, еще более важно.


Эрик Кавана: Хорошо …


Гилберт Ван Кутсем: И в этом случае небо - это предел. Спасибо.


Эрик Кавана: Да. Это было замечательно. Мне нравились очень провокационные идеи, мне нравится, как ты все это ломал. Я думаю, что это имеет большой смысл. Давайте продолжим и нажмем первый слайд Ашиша, и я передам вам ключи от WebEx, Ашиш. Хорошо, давай. Просто нажмите в любом месте на этом слайде и используйте стрелку вниз на клавиатуре. Вот и ты.


Ашиш Тусоо: Хорошо. Спасибо, Эрик. Привет, ребята, это Ашиш, и я расскажу вам о Куболе. Итак, для начала, Qubole, по сути, он предоставляет большие данные в качестве сервисной платформы. Это облачная платформа, размещенная в облаке Amazon и облаке Google, и мы предоставляем такие технологии, как Hadoop, Hive, Presto и многие другие, о которых я расскажу, все под ключ, чтобы наши клиенты могли по существу выйти из вся путаница в мире инфраструктуры больших данных или выход из фактического управления этой инфраструктурой и действительно больше внимания уделяется их данным и преобразованиям, которые они хотят выполнить в своих данных. Итак, вот что такое Qubole.


С точки зрения ощутимых преимуществ, если подумать о Qubole, вы, конечно же, знаете, что это готовая платформа самообслуживания для анализа больших данных и интеграции больших данных, построенная на основе Hadoop, но, что более важно, она заключается в том, что вы знаете, что для всех механизмов обработки больших данных, таких как Hadoop, Hive, Presto, Spark, Chartly и т. д. и т. д., они приносят все преимущества облака этим механизмам обработки больших данных, а также некоторые ключевые манифесты, которые он дает Облачная перспектива заключается в том, чтобы сделать инфраструктуру адаптивной и адаптивной, я имею в виду как гибкую, так и гибкую работу с нагрузками, которые выполняются на любом из этих механизмов, а также сделать эти механизмы гораздо более самообслуживаемыми и совместными в том смысле, что вы знаете, Qubole предоставляет интерфейсы, где вы можете использовать эти конкретные технологии не только для разработки или, вы знаете, для задач, ориентированных на разработчика, но даже ваши другие аналитики данных могут также начать использовать преимущества этих технологий для самообслуживания интерфейс.


Знаете, мы многое получаем, относясь к этому конкретному вебинару, вы знаете, это одна из наших перспектив относительно того, какие преимущества облака приносит Qubole для больших данных. Таким образом, если вы просто сравниваете, как вы запускаете, скажем, Hadoop и позволяете ему работать с нагрузкой в ​​предварительной настройке, в предварительной настройке, вы всегда думаете о статических кластерах, понимаете, вы исправляете кластеры, вы можете определить их размер в соответствии с вашим пиковым уровнем использования и оставить их там, а затем, если вам придется изменить их, вам придется пройти через весь процесс закупок, развертывания, тестирования и так далее и так далее. Qubole меняет то, что, создавая кластеры полностью по требованию, наши кластеры полностью эластичны, мы используем объекты, хранящиеся в облаке, для фактического хранения данных, и кластеры появляются и, вы знаете, они появляются на основе спроса, генерируемого пользователи и они уходят, когда нет спроса. Таким образом, это делает эту инфраструктуру более гибкой, гибкой и адаптируемой к вашим рабочим нагрузкам.


Еще один пример гибкости, вы знаете, сегодня вы, возможно, создали свои статические кластеры здесь, понимаете, с определенной рабочей нагрузкой, и если ваши рабочие нагрузки изменяются и ваша инфраструктура теперь нуждается в обновлении, возможно, вам нужно больше памяти на ваших машинах и тому подобные вещи. Опять же, вы знаете, что делать это в облаке, например, через Qubole, очень просто. Вы всегда можете арендовать новые, разные типы машин и, вы знаете, получить кластеры, кластеры из 100 узлов и запустить их в течение нескольких минут, а не недель, когда вам приходилось ждать Hadoop на премьере.


Другая ключевая вещь, в которой Qubole отличается от on-prem, заключается в том, что Qubole, по сути, является предложением услуг, поэтому все инструменты и инфраструктура, необходимые для интеграции службы, вам не нужно … где бы вы ни были, вы знаете, что в первую очередь вы берете программное обеспечение, вы должны запускать его самостоятельно, вы должны интегрировать его самостоятельно и использовать все эти преимущества, все преимущества модели SaaS - ключ к пониманию, знаете, как Qubole предлагает большие данные, а не запускает Hadoop самостоятельно.


Этот слайд обычно охватывает нашу архитектуру. Мы, конечно, базируемся на облаке, мы храним наши данные об объектах в облаке в облаке, Google Cloud и Google Compute Engine или Amazon Web Services. Мы взяли все экосистемные проекты Hadoop, и в связи с этим мы разработали ключевой IP для автоматического масштабирования и самоконтроля, мы провели много облачных оптимизаций, чтобы эти технологии компонентов действительно хорошо работали в облаке, как вы знаете, облачная инфраструктура очень отличается от простого запуска на голом железе и целой связки данных для обеспечения возможности переноса данных на эту платформу и обратно. Итак, это сравнивает облачную платформу и позволяет понять, что это ключ … ключевая особенность в том, как сделать самообслуживание таким образом, чтобы у вас не было сильного … вы надеваете при этом у него не очень большой объем работы, но мы связываем его с нашим рабочим столом данных, будь то инструменты для аналитиков, инструменты управления данными, инструменты шаблонов и т. д., и т. д., чтобы вы может принести преимущества этой технологии не только разработчикам, но и другим бизнес-пользователям и предприятиям. И, конечно же, мы также привязываем эту облачную платформу к инструментам, которые вы, ребята, уже могли использовать, будь то инструменты утилизации или просто Tableau, или же они используют, вы знаете, больше продуктов типа хранилищ данных, таких как Redshift и так далее и так далее.


Сегодня служба работает в достаточно широком масштабе, и теперь мы обрабатываем около 40 петабайт данных каждый месяц в нашей клиентской базе. Наши кластеры различаются по размеру от 10-узловых кластеров до 1500-узловых кластеров, и, вы знаете, с точки зрения диапазона масштабов, который мы можем обрабатывать, и в целом, насколько мне известно, мы запускаем, вероятно, некоторые из крупнейших Кластеры в облаке, что касается Hadoop, и мы обрабатываем около 250 000 виртуальных машин в месяц через наши кластеры. Помните, что наша модель - это кластеры по требованию, которые имеют огромные преимущества с точки зрения сокращения ваших рабочих нагрузок, а также улучшения ваших и так далее, и так далее.


Наконец, вы знаете, одна из наших, вы знаете, это просто пример того, как Qubole был преобразующим для различных компаний. это пример нашего клиента. Они уже находились в облаке, например, они запускали Elastic MapReduce в облаке, и использование данных там было довольно ограниченным. У них было бы около 30 с лишним пользователей, которые могли бы использовать эту технологию. С помощью Qubole они смогли расширить это до более чем 200 с лишним пользователей в компании, которые наблюдали расширение случаев использования больших данных, и это действительно принесло, вы знаете, то, что мы называем определением гибкой платформы больших данных и что это стало действительно центральным для многих их аналитических рабочих нагрузок.


Итак, просто чтобы закончить, вы знаете, это был краткий учебник по Qubole. По сути, наше видение заключается в том, чтобы сделать предприятия более гибкими в отношении больших данных, и, в сущности, мы используем преимущества облака и используем их для использования технологий больших данных в Hadoop, чтобы наши клиенты могли использовать преимущества гибкости и этих преимуществ. гибкости и тех преимуществ самообслуживания в облаке, которые станут намного более эффективными для их потребностей в данных. Так что я на этом остановлюсь и верну Эрику.


Эрик Кавана: Хорошо. Звучит отлично, и теперь я передам это Майку Миллеру из Cloudant. Майк, я передаю тебе ключи прямо сейчас. Просто нажмите на слайд, вот и все. Унеси это.


Майк Миллер: Похоже, у меня есть ключи. Итак, я извинюсь. Я потерял … Я думаю, что забыл отправить некоторые шрифты с моей презентацией. Так что, надеюсь, вы сможете заглянуть в прошлое и представить, что это красиво. Но да, это весело. У меня здесь длинный список провокационных вещей, которые я услышал, и записал их, которые я хочу вернуть вам на панели. Итак, я постараюсь пройти через это быстро.


Итак, я начну с Cloudant. Cloudant - это база данных как услуга, наш облачный провайдер, и у меня даже нет нового логотипа. Мы были приобретены IBM не так давно. Итак, мы … Я собираюсь поговорить о нашем сервисе и уделить особое внимание тому, чтобы наши пользователи и клиенты были более гибкими, чем предыдущий оратор.


Cloudant предоставляет базу данных как сервис и другие услуги, связанные с данными, для людей, которые создают приложения. Таким образом, мы напрямую взаимодействуем с разработчиками и концентрируемся на операционных данных или данных OLTP, в отличие от аналитики, которую мы слышали от Ашиша ранее. И дело в этом, действительно, в этом вся ценность Cloudant, которая может быть разбита на то, чтобы помочь нашим пользователям делать больше, а значит, создавать больше приложений, больше расти и больше спать. Я расскажу о них немного подробнее, но общая идея здесь заключается в том, что если вы пользователь, вы знаете, вы находитесь на предприятии, вы создаете новое приложение, добавляете функцию в существующее приложение или веб мобильный запуск, вы должны сосредоточиться на своей основной компетенции. А раньше, может быть, еще десять лет назад, ИТ-индустрия должна была стать отличительным, знаете ли, соревнованием, извините, конкурентным ущербом, даже если хорошо управлять базой данных, чтобы быть конкурентным преимуществом. С облегчением, что эти дни прошли! Итак, способ, которым мы действительно пытаемся работать с нашими пользователями, состоит в том, чтобы побудить их использовать составные сервисы, модульные, многоразовые, совместимые с идеей, которая сокращает время на маркетинг, повышает масштабируемость. И общая идея здесь заключается в том, что облако - это не просто, знаете, что-то новое, навязываемое пользователям, это действительно рынок … это эволюция рынка, потому что способ, которым люди создают приложения, используют приложения, устройства, на которых они работают и масштаб данных довольно радикально изменился за последние 5-10 лет. Это действительно подчеркивает существующую архитектуру приложений для создания приложений, а также просто работу с этими данными и аналитическими рабочими нагрузками в автономном режиме. И так, это открывает целый поток возможностей.


Итак, Cloudant - это распределенная база данных как услуга, и я считаю, что с самого начала она была уникальной, так как она изначально поставлялась с мобильной стратегией, и я расскажу об этом подробнее, но идея заключается в том, что написание приложений сейчас Вы не пишете только для одной платформы, верно? Вы пишете для чего-то, что я могу запустить петабайтный масштаб в облаке, он также должен иметь возможность бесперебойно работать на рабочем столе или в браузере, и все больше и больше мы видим вещи, нам приходится работать на мобильном устройстве или полу-подключенное устройство или носимое устройство или что-то, что мы называем IOT. And so, I think that, you know, applications that can deal well and leverage those different clients are incredibly competitive in the market and what we try to do is make it simple for people to single API in the single programming model to write, to handle data in all of those different devices that have vastly different scale. The interesting thing is, you know, initial uptake in web and mobile, this is where we saw our big subtraction, but even now before the acquisition, we are seeing larger and larger number of enterprise users even in things as what I say as conservative as fidelity investments, right, working with a virtual building, a virtual safe deposit box. So, I think that this market is actually taken off much faster than even we had expected.


Let's talk about cloud and a little bit more and then turn it over. The idea here is that we really make it easier for you to build more and use a service like Cloudant to store the database state of your application and then move that to your different devices and keep things in sync and start contrast on how you build application, traditional stack or you have to buy servers like we heard about before, where you have to provision those and install license things. With Cloudant, we try to make easy. All the data that you will need, all the search services, database, etc. for your application can be acquired by signing up and getting a single endpoint URL and then starting to use that URL. The idea being that, that is a service that uses multiple indexes, some multiple technologies underneath, some proprietary and many open source, but we use them together in a way that the end developer or product team needs to build something. And so, database analytics, very different than they did it in inception where you would have, you know, rows and columns to store business ledgers, now we need to start JSON documents that generally happens over HTTP or using existing open-source APIs and then finally, we give you the things that database should do like a primary index and secondary indexes for, you know, retrieval and LTT and then driving application logic. But in addition, there is a wide range of things like search, geo-special and replication between devices that are very important. So, that's all provided underneath our API.


But, the really distinguishing thing that allows our users to grow and, for instance, why Samsung was one of our earliest and biggest customers is that, you know, Cloudant now is underneath cluster. Each cluster shares enough architecture of three to hundreds of nodes, but we run those in over 35 data centers now globally so that there is always a place for you to store your data within a millisecond of any other cloud provider or most existing data centers. So, one of the big early things that we are challenging in the cloud as well, is how do I split a hybrid architecture for my application service maybe here and my database servers maybe someplace else that will never work. They have to be on the same machine or in the same place. Well, the reality now is that by cobbling together different cloud providers, and this is something that we still do as an IBM company, you can make sure that your database is always within a millisecond of any other place and we take care of the peering agreements and just take down with the cost off the table, something that we worry about. So, Cloudant is really a database as a service, but you can think of it more like a CDN like for your database for data that changes, you know, on millisecond time scale.


And really, finally, I think the major selling point is if you build an application that's successful, you have to decide as an organization whether or not if you want to then grow the 24x7, 365 globally distributed, you know, operation team that it takes to run that at the large scale to whether that's something that now is commoditized as well. And so we focus very heavily on helping on-board new users and new customers and help them make the jump to the cloud and build architectures that use cloud analysts and works everything in a very coherent and scalable way so that is the end, you know, our users focus on building applications and not on surviving their own success.


And with that, I will just say thanks, skipped over some slides that were skipped and I will turn it back over to Lawrence.


Eric Kavanagh: That is fantastic. So, Lawrence, let me hand you the keys to the WebEx here. Just give me one second. There you are. Keys being transferred. Just click on that slide anywhere and use the down arrow.


Lawrence Schwartz: Great! Well, thank you for the handover and, you know, thanks to all the presenters today. Nice way to set everything up and there will be a lot of things to talk about it as I get through with the presentation here. So, again, I am Lawrence Schwartz. I run marketing over at Attunity and, you know, want to talk about some of the issues that we see and then some of the challenges in the space that we are in.


So, a quick overview and introduction to Attunity as a company and who we are. We focus on moving data. So, we talk about moving any type of data anytime, anywhere and enabling that for users. We are a public company based out of the Boston area, or near Boston, and when we talk about the cloud, we have some great relationships, we are part of the AWS network, a big data integration partner, and we have been close to them since the launch of their Redshift, even working with them before that. We have gotten some nice recognition for the work that we have done and as a company, we are in over 2000 places use Attunity, and we are in half of the Fortune 100 companies. So, we got some good experiences.


As you can see on kinda of the bottom of the slide here, a big issue is you've got data that's generated from all different types of sources these days from traditional, you know, CRM systems, all different places on the Internet, all the different places where data could start and then it has to go to places to be analyzed, to work with and to be looked at and we spoke if, you know, getting the data, you know, where it needs to be. So, I am gonna talk about our solutions that we do specifically on the cloud and when you think about that, often times the data, we have somewhere on-premise. So, besides having relationships with places like Amazon, we have very close working relationships with places like Teradata, Oracle, and Microsoft, all the places where data traditionally existed on-premise.


So, when you think about this, you know, and I think it was Eric who, you know, talked about on-boarding is the key to the whole process, right? I have been thinking about the issues to getting data on a system. Now, we are just some of the bottlenecks that exist today and when you look at the people moving data into a data warehouse or a database and to the cloud, we can see a lot of time is spent on what's called the ETL process, the extraction, transformation and loading of the data from where it resides to where it needs to go. If you think about getting the value on the data, that's not where you want to be spending your time and efforts, that's not the most productive area for a data scientist. And the flipside to that is this - very few people who are very satisfied with that process. It's no less than 20 percent. We really find that to be a big process. So, there is the real kind of painpoint bottleneck, if you will, in getting to the cloud and doing that type of on-boarding that people need to do and there's even, you know, real performance issues, you know, you could look at how do you get stuff into the cloud and if you want to get, you know, a couple of terabytes into the cloud, you could certainly ship it to the cloud and there are still places that do that with larger data sets, or a lot of the traditional methods, just don't have the performance to get their to do that. So, it's a real, you know, painpoint in the marketplace as people think about how do they get and how do they move onto the cloud.


So, if we step back in and look at what that means or why that's there and, you know, how this has come about, you know, both Eric and Gilbert talked about the fact that, you know, the data that's on there today, that exists today, you know, on-prem is here to stay, you know, cloud is here to stay. So, that integration becomes all the more important and often times, people fall back on the tools that they have to move over data. Again, there is a lot of ETL or traditional tools out there to kinda move data over in batches, but there's a lot of issues with that. People find that traditional ways of moving data are very time and resource intensive to set up. They often require a lot of scripting, even if they are autonomous in some way, a lot of people, a lot of manpower. There's so many sources and targets, particularly on-premise today to move it into the cloud, you know, all the systems I mentioned earlier, Oracle, Microsoft, Teradata, some managing that whole part of it. And then, you know, looking at the performance as it moves over, being able to have the tools to make sure everything is building quickly, there is a lot of thought systems that exist today aren't well built for that.


And then lastly, a lot of the way people think about moving data is kind of done in the batch process and if you are thinking about trying to do more in real time, that's not the most effective way, kind of using stale data that's not interesting to the organization. So, when you look at what Attunity does in this stage and how we think about it is, it's a different architecture that we are focused on, we really built this from the ground up and thought about when you have to go from Pentaho open-source database out to the cloud, how do you make sure that it's very easy and straightforward to do? So, that requires rethinking, how you do the monitoring and kind of set up for. It's making the whole thing just kind of a couple of clicks to get started. It's really thinking about the movement and optimizing the performance over the channel and working with just a wide variety of platforms because a lot of big organizations kinda have the best degree approach and a lot of different types of databases or data warehouses are ready in their environment. So, you have to think about it differently. You can't just do an extract, you know, dump the data out to some sort of information loaded somewhere. You have to kinda think about the architecture change, how you do the processing, do it more in memory and focus on a more performance version.


So, what does that mean and what does that look like? So, one key tenent to get to the problem with the cloud is, that things have to be easier to set up. You know, that screen there, it's just some screenshots from how we do it, but it's, you know, 1, 2, 3, kinda pick your source and target, pick what you want to do, you want to do one time CDC and then just go. It needs to be no harder than that, you know? I know we just, you know, saw the presentation from Mike and he talked about how easy it was for people to get started with Cloudant. It's the same type of thing, you have to deal with, kinda get going in a few steps otherwise you will start losing the value of it. When you think about the monitoring and control of it, there are some great companies out there, I know you're familiar with, like Tableau and others, who have done a great job in visualizing the end product of data and how to do it. But, you know, being able to visualize the movement process, the management or where's the data set on-premise, in the clouds and moving over, is there a lag, there is a vacancy. Having that viewpoint is critical and that's an important part of moving forward.


Another aspect that becomes important is the performance. You can't just rely on the standard FTP kinda two-way protocol that people have been using for years. As you move more and more data over, you have to have optimized, a file-channel protocol that is geared more towards, you know, one-directional movement most of the time after we think about how you break up tables and ship them out and move them over and you have to give people the flexibility to do that, otherwise you can't get it there in time and if you do that differently, think about it differently, you can get a 10x performance, but you have to rethink the technology.


And then lastly, as I mentioned earlier, you know, you have got a lot different places that databases exist today. So, you got to be able to work with all those and offer the widest kind of amount of support so that people can get onto the cloud. So, what does that mean for users and, you know, and those who are out there who wanted, two kind of quick cases of how people had challenges getting to the cloud, see the value, but then are able to do that if they have the right toolset.


So, one company that we work with, Etix, they do online ticketing, major provider in this space and I know Robin talked about data center offload is kind of a key in this case for the cloud. This is exactly what they are trying to do. They were trying to load and sync their data from Oracle on-premise to Redshift and do that in a timely fashion. And the interesting thing is, you know, go back to what Gilbert said, you know, it's really tough about on-boarding being an issue. They could see the intrinsic value of Redshift, they could see the cost savings, they could see all the advanced analytics that they quickly start doing that they continue for, they knew that value, but there was a roadblock to getting there. In this case, they looked at it and said, "Well, I see the value of Redshift, but it's gonna take them, you know, three months, development effort and time and, you know, maybe hiring the DBA and doing all this extra work to get there." So, there is a real block in the path to do it. Once you have the right toolset to do that, the right data integration capability to do that, they were able to go down from, you know, months of planning to literally just get going in minutes, and that's again lowering that barrier of getting people onto the cloud, we need to have the right capabilities to deliver on the promise.


The last, you know, slide I have here, and kind of another use case is, you know, we've worked with other companies, Philips, you know, well known in many spaces, we work with their health-care division and again, they were trying to go from an on-premise source over to Redshift, in this case SQL Server, and they knew the value, they knew all the analytics, they could do on it and they had done some testing on it, but they saw that without having the right tools, this is something that was gonna take them, you know, weeks and they had been spending actually weeks spinning their wheels and trying to get things moved over once they had the right tools that simplify, get it moved over quickly, they were able to go down and start loading in less than an hour, you know, over 30 million records. So, the real time went from couple of months to about two hours for them. And then they were able to do the things that they wanted to do. They didn't have to focus on the data loading, they could focus on the operational support. They got a much better matrix for all these care, cost and operations. So, you think about the whole challenge, you know, we design that spaces, enabling the data movement and now more than ever with the cloud when you think of it being kind of a remote place to pick your data, you know, this becomes an area that, you know, more and more people need to solve, to take advantage of what's out there. So, that's an overview of what we do and with that I will pass it back to you, Eric.


Eric Kavanagh: Okay. That sounds great. We've got a good amount of time here. We'll go a bit long to get to some of your good questions, folks. So, feel free to send your questions and I've got a few questions myself.


Lawrence, I guess I will start off with you. You guys have been in this space of kinda supercharging the movement of data for a while and you have been watching the cloud very carefully and I've really been kinda surprised at how long it's taken major enterprises, Fortune 1000 companies to fully embrace cloud. I mean, there are, of course, pockets of severe interests, let's call it, in large organizations, but as a general rule, there's been a bit of a reluctance that is only starting to wane in the last year or so, at least from my perspective, but what do you see out there in terms of cloud adoption and readiness of the enterprise to use cloud computing?


Lawrence Schwartz: Sure, I think you are right. It has been a significant change and it's certainly taken time, you know, they have that joke about, you know, that successful - overnight sensation - or really overnight success, that really takes years in the making, and that's been true for the cloud, right? It's… you have seen that kick in the last year, but it's due to all the hard work of a lot of players like Amazon who have been doing this for years, you know, to get the service adopted, the kind of, you know, prove the metal and there's, you know, failures and problems to give the diversity and flexibility that they have, that's something that Redshift offers. So, I think the maturity has gotten there, the confidence has gotten there, you know, the… I think it's infiltrated into a lot of companies through small areas, you know, small use cases, small trials, kind of outside that kinda IT control and with that, you know, those successful kind of periphery projects have proven now, there's now more of a willingness to have the conversations about how that spread. And frankly, you know, there's been additional tool that has, you know, have also come out to make these easier, like what we do and, you know, there is that, not just move the data, but show the value of BI in the cloud, and showing that.


So, it's, in one way, it's an overnight or a big uptick in the last year, but a big part of that's been all the hard work of building up to that. So, now we as a company see a lot more adoption. It's as a business for what we do, it's grown quite a bit and the cloud, you know, we do a lot of on-premise to on-premise movement. Now, cloud shows up in a lot of the conversations as, you know, real business cases, real offloading cases out where a year ago was certainly, you know, just more exploratory. Now, they have got real projects to move. So, it's been nice to see that movement.


Eric Kavanagh: Okay. Отлично. And Mike Miller, you had mentioned that you heard a couple of provocative statements that you wanted to comment on, so, by all means, what do you find interesting or what do you wanna talk about?


Mike Miller: Oh, I think Robin, he made a point, his second-to-last slide contrasting where innovation counts. The cloud will always be second best and I'd love to hear a little bit more about that because in my mind, if I was thinking about building, you know, an application or some new service, it's hard for me to think that my organization, no matter what they are, really wants to go engineer-to-engineer with Google, Amazon, IBM, Microsoft. So, I think maybe I misunderstood his point with that.


Eric Kavanagh: Interesting. Robin, Mike has thrown down the gauntlet. Как вы думаете?


Dr. Robin Bloor: Well, I mean the point here is that there are a number of situations that I've come across which… where people have gone into the cloud and walked back out and the reason they walked back out was, you know, when it came to actually having emotionally, this was performance driven, but the performance was actually the crux of the application is being built as they couldn't get the low latency they wanted and the cloud was of no use to them. And, you know, the situation was that, you know, actually going into the cloud, even if they were given the ability to measure behavior of the networks for them in the cloud and that workloads in the cloud with something they had absolutely no control over, and because of that, they couldn't create the tailor-made services that they were looking for, and that's a performance edge. I don't think there's anything in terms of, you know, coding that's going to be constricted, what you can do in the cloud. It's service level, it's a constriction… if that's part of where your critical capability is going to be, then the cloud is not going to be able to deliver it.


Mike Miller: Right. The… So, I appreciate that clarification. I do agree, actually, that transparency is one of the big things that here as desire right now from users across many different providers. So, I think you raised a very fair point. When it comes to performance, I think that traditionally it has been very hard to, you know, to go to a cloud provider or any given cloud provider and find exactly the hardware you are looking for, but it will noting kind of the upping the ante in the race to basically free storage between Google and Amazon and other competitors that it is and I think you see the pressure that puts on driving on the cost of SSD, flash, etc. So, I think that's a fun one to watch going forward.


Dr. Robin Bloor: Oh, absolutely correct, you know? I mean, I think there's one of the things that is actually happening is that the second wave is coming on. The first wave was this, you know, this wonderfully tailored services as long as, you know, it's a little bit Henry Ford; you can have it recolor as long as it is black, but, you know, even so, extreme reduction in certain kinds of costs of having the data center. Or, the second thing that happens is, having actually built these huge data centers out, they start these cloud operators, suddenly start discovering things that you can actually do. You couldn't do before because you didn't have the scale. So, there is, I think, a second wave which, to a certain extent, is going to make the cloud even more appealing.


Eric Kavanagh: Okay. Хорошо. Let me go ahead and bring Ashish as I am gonna go ahead and throw up your architecture slide here. We always love these kind of architecture slides that help people wrap their heads around what's going on. I guess, one thing that just jumps out at me is, of course, YARN. We talked about that on yesterday's briefing. YARN is not a small deal. For those of you who aren't familiar with this concept, it is "yet another resource negotiator." It's, really it's a very interesting development because what happened is in the Hadoop movement, YARN is kind of replacing the engine really, if you will. Our speaker from yesterday will refer to it as the operating system. It's like the new operating system of Hadoop, which of course, consists of the hybrid distributed file system underneath, which is basically storage when you get right down to it, and then MapReduce is what you used to have to use to use HDFS. MapReduce is an absurdly constraining environment in terms of how you get things done. So, the purpose of YARN was to make HDFS much more accessible and make the entire Hadoop ecosystem much more flexible and agile. So, Ashish, I am just gonna ask you in general, since you are mentioning YARN here, I am guessing that you guys are YARN compliant or certified. Can you kinda talk about what… how you see that change in the game for Hadoop and big data?


Ashish Thusoo: Yeah, sure. Абсолютно. So, I think, you know, there are two parts to… So, let me first talk about, you know, why YARN was done and then talk about how that potentially changes the game and what's fundamentally still is the same, you know, where it doesn't change the game. I think that's an important thing to realize also because many times you, you know, you get caught up on this hype of say, this is the new, shiny thing and, you know, everything is going to, you know, all the problems are going to go away and so on and so forth. So, but the primary thing is that, you know, the strength and the weakness of the MapReduce API was that it was a very simple API and essentially, any problem that you could structure around being a sorting problem could be represented in, you know, that API. And some problems are naturally, you know… can naturally be transformed into that and some problems, you know, you sort of, you know, once you have just MapReduce at your disposal then you try to fit into a sorting problem.


So, I think the latter is where YARN plays a role by expanding out those APIs by, you know, being able to compose, you know, maps and reductions and, you know, whole bunch of different types of APIs in terms of how the data can be distributed between these two stages, and so on and so forth. You just made that API that much more richer. So, now you have at your disposal, different ways of solving that same problem, right? So, you just don't have to, you know, be constrained by the API and the problem gets solved one way or the other like, you know, if you are, you know, trying to do an analytics, you know, workload, you can express that in MapReduce, you can express that in YARN. The big difference that happens, that starts to happen is, you know, in terms of, you know, the performance matrix that you start seeing, you know, once you start, say programming to YARN and in some cases, a newer set of things, for example, streaming analysis and so on and so forth starts becoming a reality when you start, you know, doing that, you know, those things in YARN.


So, those are the differences that, you know, that thing has brought into the ecosystem. I think it's much, the richness there is much more on the API side as opposed to it being another resource manager, especially in the cloud context. If you think about it in cloud context, the resource manager is actually your… the VMs that you bring up, you know, you have virt… you know, it's not necessarily… Again, this is a big difference between say, on-prem how you are running Hadoop clusters and how you are running in the cloud then, you know, you have like the constrained static set of machines, you want to distribute those machines amongst different resources and they were used for YARN there. But, in the cloud, you know, you can bring up machines left and right. And so, just from the perspective of being a resource manager, it probably doesn't have that, you know, that bigger need and specifically in the cloud, but from the perspective of providing these, you know, richness of APIs which allow you to, for example, the Hive is initiative they can now program Hive to not just to use MapReduce, but have much more richer plans of doing jobs and things like that. It brings those benefits to the ecosystem. I think that is where the true value of YARN belongs. And in the cloud context, definitely, it's not that interesting from the resource management point of view, but it's much more interesting in terms of what it enables other projects to do, in terms of, you know, workloads that now, it now can be used to be programmed on to your data or the previous workloads that can be done in a much more efficient way.


Eric Kavanagh: Right.


Ashish Thusoo: I had, you know, one more just, you know, adding to Mike, you know, there was another provocative thing which was said which is around and, you know, which was around, hey, treating the cloud as yet another data center. I think you… you know, that is one point of view which most companies, you know, look at and say, okay, you know, that's the easiest point of view actually to look at saying that, okay, you know, this is, you have bunch of machines on your, you know, you have compute, you have storage and you have networking on your on-prem data center and cloud provides the same thing out there. So, I am just going to do exactly the same thing that I am doing on my own on-prem data center and do the same thing in the cloud and viola - that's how it should work. What we have found out, you know, having been running the clouds for, the two clouds where, you know, you have the ability to provision VMs within a minute, the ability to use a highly scalable objects to store data and things like that. We have found that cloud actually, the cloud architecture and these inherent abilities actually enable different ways of doing things, you know, and this is what I have talked about in my slide as well, you know, the whole notion of… in just, you know, in… the perspective of just Hadoop, the whole notion of just running the static cluster versus on-demand dynamic clusters, that is something that you don't see happening in an on-prem data center, you know, versus, you know, true cloud where the, you know, there's a enough capacity to be able to support these types of workloads.


And so, I think there is definitely some shift needed. You know, the big fear for me is that if you just treat cloud as yet another data center, you actually… while you, you know, there are lot of other benefits, but there are lot of intrinsic benefits that you might ignore if you, you know, start doing that, security is another one, the way you deal with security and the cloud, there's a lot of differences in terms of how you would deal with, you know, in… from on-prem perspective and so on and so forth. Just wanted to add that in, from my perspective.


Eric Kavanagh: Sure. Да. Нет проблем. We have one attendee asking about various types of use cases like logistics and specifically HR, so I threw up this website of Workday, wanted to make a couple of comments on that, and then Gilbert, maybe I will bring you in to comment on the whole concept of architecture. So, in terms of HR, I actually heard a rather well, I will call it, let's say comment from an analyst a couple of months ago, a few months ago I suppose, about going to the cloud for Human Resources. I have been doing some research on this to know lot of HR-type functions are being outsourced to the cloud, certainly stuff like payroll is fairly easy to outsource these days, benefits programs and insurance, that kind of thing, but there is a real serious caveat to keep in mind and Gilbert, this is what I want you to comment on from an architectural perspective, which is you have to be very careful about when you are moving to the cloud for some kind of critical business service because you either want to be very strategic and very thoughtful, meaning you go through the process of making sure that you understand what's going on in the cloud and what's staying on-premise, and there is the folk from Attunity will tell you that truly one of the things they specialize in is making those connections such that they provide the kind of connectivity you need because what's happening with some organizations is they go and they will use Workday for example, to put some of their HR stuff to the cloud, but they don't do it all or they don't do enough or they don't think through it enough, and what happens then? Then they want to happen to manage the cloud environment and their original on-premises environment as well, which means, guess what? He just increased your cost, you doubled your workload and you created lots and lots of headaches for people, and that's usually when someone gets fired and then the guy who comes in has a real mess to clean up. So, you really do have to think through the architecture of the data and the systems and the processes and make sure you dot all your i's and cross all your t's and with that, I will throw it over to Gilbert for comments. I am guessing it will be with that, but maybe not.


Gilbert Van Cutsem: Alright. Да. So, just another example of something similar, just yesterday happened to me. So, I lost one of my doctors because he went out of business. Я не знаю. It sounds amazing. He was a chiropractor and he went out of business. I don't know why, but, the thing was this - I have no chiropractor and I like to go to a chiropractor, you know, occasionally. So, I find a new one and it's close to, you know, close by and all that. It's all good. And so, they go, as usual, you have to do all the paperwork and let us know if blah, blah, blah. But, the good news is we have a new system because, you know, we're on the Web now, in the cloud. It's all cool. I go like, okay, you know, and they send me a link and I have to do all the paperwork online, which is fine and I put all kinds of things in there about, kind of secret like, you know, social security numbers and that type of stuff and who I am, how old I am… all my details. I put it all there and I submit because of course, I do believe in technology.


And then I walk up to the office, the next day for my first appointment and they go like, "Did you do the form?" I go like, "Yes, Ma'am, I did." "Okay. Then we will go and find it." I go like, "Well, I did do it." And she goes, "Yes, we know because you are the fifth person today to walk in, to walk up to me and complain about that's not finding the form." And I go like, "But, you can't be serious about that. This is pretty confidential information. Where is it?" This happened to me yesterday, yeah, which brings back the whole issue and the whole idea of who owns the data really, right?


I know you move to the cloud and people get onboard it into a new system like in this case, my chiropractor and they subscribe to a new system. It's in the cloud, it's all safe, it's fully multi-tenant, they used to have it on-premise system, all the data was moved into the new system, but now apparently, they can't get it out.


Eric Kavanagh: Yeah. Это не хорошо.


Gilbert Van Cutsem: So, I don't know where my data is and assume she gets really mad, right? She goes like, "Oh, this is impossible. I pay you money and my customers are, my patients, sorry, are unhappy and with the data is gone, I wanna get away from you. I wanna go to a different system maybe also in the cloud, right?" How do you then move the data of your patients in this case, the data your business owns, to another system? How do I get it out first of all and then load it again? I am sure ETL in the cloud is an answer somehow and we have experts on that, but it's not that easy.


Eric Kavanagh: Yeah, but that's exactly right and folks, I threw up this other slide here, this other, another screen to show you where you can find the archives. So, anytime you want to check out - oh, there's the inside of our website, I don't want to show you that. So, here is the main website and on the right column here you can see a different show. So, TechWise is right here. You click on that and on these different pages where we will actually post the archives. So, we do archive all these webcasts.


Actually, I wanna throw back over to Mike, I suppose, and then also to Lawrence to kinda comment on this story that Gilbert just told. So, Mike, there is some, kind of, now this is kind of a small-business concern. You guys are more focused on big business, but nonetheless, if a large company who works with you and they want to go somewhere else, how do you manage that movement of the data and securing the data and so forth?


Mike Miller: Yeah. Это очень хороший вопрос. It's one that used to come up a lot more often than it does now in sales calls, which I find to be an interesting anecdotal piece of evidence for a call. You know, I think that first of all, we are talking about a lot technologies, or at least employment models that are relatively new. This is very early in the cloud, right? We are talking about things like cloud, or in the case of data, we are talking about analytics services like Hadoop for databases and then NoSQL or NewSQL formats. You know, these are fundamentally new technologies and especially around things like, Hadoop and NoSQL, all of the ancillary services, the connectors, right, the… you know, if I want to find somebody that consults on Oracle, that's something I can find, but that entire ecosystem is just kinda spinning up right now.


So, it's getting easier day over day to say, okay, you know, give me a service that can read from 'x' traditional system, put it into Cloudant and do something with it and then put it back into 'y' traditional system, right? So, now they are very, you know, there are quite a few those things and it's actually more challenging, I think, for a typical user to understand what is the best choice, right, if I want to connect all the new technologies on-prem and then in the cloud.


So, I think as a cloud vendor, it's really on us to be very opinionated about that and to help walk users through the landscape of possibilities because the shift's a lot of new and I think that the average user, whether it's a CTO, CIO or whether it's actually developer, is coming up that learning curve fairly quickly. I think that a lot of the kind of baseline stuff is being worked out, cross-cloud connectors and, you know, taking away the really most basic worries about say, you know, bandwidth cost and whether or not you are going out on the wide area network versus staying on, you know, VPN the entire time. A lot of those things have been kinda abstracted away and what is the true promise of the cloud.


But, in general, I think you are also seeing, you know, that anecdote that we heard was, you know, something that is probably isomorphic to, you know, what will happen to your buying into a brand, you know, in a past lifetime, you know, what happens if that brand doesn't deliver, how much can I really trust that brand? I think you are seeing exactly the same thing happen in the cloud and, you know, I think that companies like Microsoft, Amazon, IBM and Google are, you know, very much stepping up and saying that there will at least be multiple pillars of trust and making sure that you are not going in with a company that's going to dry up and swallow your data, or worse, lose it or distribute it, right? And so, they are, at least, they are independable and they are anchoring, you know, the development of such ecosystem. But, I say to close, it's very early and a lot of that tooling is just getting started and, you know, I think you are going to see consulting services, you know, really putting a lot of focus on that in the very near term.


Eric Kavanagh: Yeah. That's a really, really good comment you just made there. I like that "pillars of trust" concept because the other thing to keep in mind here is you do once again have a number of fierce competitors vying for market share and for IT span, it's just like the old days all over again. Really, in the old days, by which I mean last year, you had IBM and Oracle and Microsoft and SAP and then Computer Associates and Informatica and all these companies, Teradata, etc. In the new world, now you have got, of course, Microsoft with their Du Jour, you have got Google, you have got Amazon Web Services, you know, you have Facebook in certain context. So, you have all these companies that are not necessarily so excited about working with each other, but you do have things like APIs. And so, one of the nice things that APIs really are crystallizing into the connectors that hold together the larger cloud, I suppose, and I want to throw up a slide for Lawrence to kinda comment on all this.


Yeah, Lawrence, obviously, you guys have specialized in the space for a while. So, I think you do have awesome advantage over maybe some newcomers. But, nonetheless, these are all very serious concerns because how data gets stored in the cloud is different than how it gets stored on-premise. Then I think that Mike makes a really good point that this whole space is just starting to take shape and it's gonna take a while for things to seriously fall into place and to crystallize. So, what's some advice that you have for companies that you… I guess, you basically concur with Mike, or what do you think?


Lawrence Schwartz: Yeah. I think it's, you know, what we see is when people are taking advantage of the cloud for a lot of use cases as compared to on-premise, you know, they are looking at kind of, you know, two different things. One is, they are looking at, you know, as we talked about this a little bit earlier, how do I… how does it incrementally add value to what I do, how do I, you know, how is it kind of an add-on? And so, you know, when back to when I talked about the Etix as a company where, you know, they are not moving all their operations over to Redshift, you know, yet per say, but they're saying, "I do a lot of work on Oracle, I wanna offer some of this to some kind of analytics from different environments, you know, kinda figure out, maybe do some sandbox stuff there, and, you know, and then learn about my business that way, and that way they can kind of carve out what they want, move it over there and do the work and, you know, it's less of a concern with moving, you know, everything over and all the records and whatnot. So, I think they look at that as one way that to take advantage of it with having less issues.


I think the other thing is people are also looking at these cases that are and aren't excellent fit for the cloud that are very, very hard to do in other ways. So, I will take another example, you know, we work with a company called, you know, iN DEMAND. They are video on-demand player. They do this work for Comcast and all of this and they will actually, you know, take the data that they are working with, they will take the media files and they will supply it to the cloud for doing their processing, do their processing there, and then they will consume it back for their on-premise customers. And then, you know, that gets upstairs to third parties that consume reviews. So, it's, you know, if you want to think about how the company is approaching it, it's, you know, how do I get my… how do I add value, how do I maybe not move the whole business at first, how do I get the right use cases, how do I add incremental value to what I do? And that helps kinda build about the confidence on what they are doing and as part of the process, and of course, you know, a key piece of that is, you know, making sure that they can do that securely and reliably and, you know, we make sure to the latest levels of encryption and other things to take care of that as much as we can on the transport side. But, that's how I think a lot of companies are approaching the problem.


Eric Kavanagh: Okay. Хорошо. And maybe Ashish, I will throw one last question over to you. I am just throwing up, actually, I like your architecture slide. Even this slide I think is pretty neat. So, one of the questions in, you know, HDFS of course, by design the default is to save every piece of data three times. You can adjust that, of course, you can make it twice, you can make it four times, that does provide some overhead over time, obviously, but it is a way of backing up data. Anyway, that was the whole idea, one of the key ideas, right, from HDFS originally is redundancy, is not wanting to lose data. I've kind of been wondering how that's going to affect things like replication servers, quite frankly, when Hadoop does that natively.


But, one of the attendees is asking - "Can you request physical backups like tape for your cloud data? I read of a company that had their cloud management console hacked and their data and online backups trashed."


You know, we are hearing about these breaches all the time, they are getting more and more serious, they are killing major brands like Target, like Home Depot, etc. So, security is an issue and backup and restore is an issue. Can you kinda talk about how you guys address things like backup and restore and security?


Ashish Thusoo: Yeah, sure. So, we… So, I will talk about that and talk about HDFS first. So, as far as Qubole is concerned, you know, we… since we work on the cloud, we use the objects store there to store data. So, again, this is one of the other key differences why, you know, big data service on the cloud becomes different from on-prem. On-prem, we have always talked about, you know, HDFS and so on and so forth, but if you go to the cloud, a lot of the data is actually stored in their object stores. For example, that could be an S3 on AWS, Google cloud storage on Google Cloud, on Google Compute Engine, and so on and so forth.


Now, many of these object stores have built-in capabilities of providing you things, you know, these object stores, by the way, you know, one of the big differentiators from real clouds to actually your own data center is the presence of these object stores and the reason that these object stores are cool pieces of technology, you know, they are able to provide you very cheap storage and along with that they are able to provide you things like, you know, having the ability to actually have a disaster recovery thing built in and, you know, as part of that interface, you don't have to think about it. And also, they have tiered, you know, there is tiering there as well. For example, S3 has high availability and it's online access, but it's much more expensive. It's more expensive than say, a glacier storage on AWS, which is low, you know, it gives you, you know, the turnaround time is like four hours or something like that and it's much cheaper. So, you start thinking of, you know, those types of services. I think cloud providers are essentially providing those types of services to augment the need for things like tapes and so on and so forth. And also, to provide you disaster recovery or rather, you know, replication built in into these systems so that, you know, you are protected from disasters, regional disasters and things like that.


So, that is what Qubole heavily, you know, depends upon and the great thing is that a lot of… all the cloud providers are providing this. These are fundamentally very difficult problems to solve and by being built into some of the object stores that these cloud providers provide, you know, that is one more additional reason of, you know, storing this data, you know, in some of these object stores and using the cloud for that as opposed to trying to, you know, figure out, you know, replication, running two Hadoop clusters across different, you know, regions and, you know, trying to replicate data from HDFS from one region to the other, which is doable, we did that a lot when I was back at Facebook running this stuff there, but, you know, fundamentally, the object stores in the cloud just made it that much more easy.


Eric Kavanagh: Okay. Большой! Well, folks, we've burned through an hour and 15 minutes or so, a lot of great questions there and a lot of great presentations. Thank you so much to all of our vendors today and of course, to both of our analysts on the show today. A big thank you, of course, to Qubole, Cloudant and Attunity. We are gonna put the archive up at insideanalysis.com. I showed you where that goes, and big thanks to our friends at Techopedia as well.


So, folks, thank you again for your time and attention. This concludes Episode 3 of TechWise, our relatively new show. There is Episode 4 coming up pretty soon. It's gonna be on the big data ecosystem. So, watch for information on all that. And then till then, folks, thank you so much. We will catch up with you next time. Береги себя. Пока-пока.

Облачный императив - что, почему, когда и как - технически транскрипт эпизода 3