Методика тестирования портативных компьютеров

Итак, мы решились. После публикации статьи о тестировании ноутбука Fujitsu в январе этого года мы получили от Вас, уважаемые читатели, массу откликов и в нашей конференции, и в письмах. Действительно, ноутбуки все больше входят в нашу жизнь, число пользователей растет от года в год, и мы не можем обойти стороной этот важный сектор рынка высоких технологий. Мы убедились в необходимости введения нового направления — обзоров портативных компьютеров.

Ниже мы познакомим Вас с методикой оценки и испытаний ноутбуков, которые будут попадать в нашу тестовую лабораторию. Приведем список тестов, критерии отбора и оценок. Нам очень важно знать Ваше мнение о нашей методике. Фактически это — первая статья в новом разделе "Ноутбуки и КПК". Мы надеемся услышать Ваше мнение и учесть его перед тем, как начнем проводить испытания аппаратов. Итак, поехали!

Что такое ноутбук и как его оценивать

Ноутбук — это портативный персональный компьютер. Он может обладать всеми функциями обычного стационарного компьютера, но всегда имеет важное преимущество над ним: ноутбук — это переносной компьютер, который можно использовать в любом месте и в дороге. Таким образом, можно сказать, что ноутбук — это мобильный персональный компьютер.

Как оценивать ноутбук? Так же, как любое другое оборудование — отношение производительности (качества) к цене. Причем здесь производительность (качество) включают в себя не только скоростные характеристики системы и время работы от батарей, но и возможность модернизации, удобство работы, сервис и т.д. Отдельно мы бы упомянули эргономику. Если для настольного ПК большого значения эргономика не играет, то для ноутбука она очень важна. При работе с портативным ПК Вы сразу обращаете внимание на удобство расположения клавиш на клавиатуре, удобство работы с приводом CD и флоппи-дисководом, для владельца ноутбука имеет значение и стиль, в котором выполнен корпус — ведь это и стиль самого владельца.

Кроме этого, при испытаниях портативных компьютеров важно учитывать позиционирование продукта, т.е. как и где производитель рекомендует использовать данный аппарат. Наша задача: понять, насколько успешно он справился с этой задачей. Ведь ноутбук — это самостоятельная законченная система, работа которой не зависит от другого оборудования. В своих исследованиях мы попытаемся дать ответ на вопрос, — правильно ли позиционируется продукт, а значит, стоит ли он своих денег?

Что ж, будем упорядочивать наши параметры оценки ноутбука.

Подготовка ноутбука к тестированию

Итак, мы получаем аппарат для тестирования. Естественно, нам передают "не голый" ноутбук со шнуром питания, а новенький компьютер в красивой коробочке с множеством всяких компакт-дисков, описаний и прочих прелестей поставки. (Господа производители и поставщики! Обратите внимание, что, когда мы будем тестировать Ваше оборудование, мы будем подробно писать о комплектности поставки). Аккуратненько распаковываем коробку, достаем аппарат и смотрим на:

  • наличие руководства пользователя (обязательно на русском языке);
  • наличие шнуров питания с европейским разъемом и/или переходников;
  • поставляемое ПО и драйвера;
  • внешние устройства и шнуры подключения к ним;
  • все остальное, что будет в комплекте.

Описание продукта

Здесь мы будем описывать технические характеристики ноутбука, поведаем о возможности подключения внешних устройств, о новых технологиях использующихся в данном аппарате. С нашими комментариями. Расскажем о рекомендованной производителем сфере применения модели. Для того, чтобы в заключении наших исследований сделать вывод — насколько удачной оказалась та или иная модель и будет ли эта модель удачной при покупки.

На первый взгляд…

Продолжаем знакомиться с продуктом. Из коробки мы его уже достали, теперь пора поближе познакомиться с самим ноутбуком, — описываем внешний вид, эргономику, конструктивные особенности. Так сказать, первые субъективные впечатления.

Тестирование ноутбуков

Подготовка продукта к испытаниям

Вне зависимости от предустановленного ПО на каждый ноутбук будет устанавливаться ОС Windows ME English. На наш взгляд — это самая "нейтральная" операционная система для наших тестов.

Тестирование всех аппаратов проводится только при включенном внешнем источнике питания (естественно, за исключением измерения работы ноутбука от батареи).

Все тесты проводятся с установкой High Color (16-bit).

Тестирование ноутбуков мы решили проводить с помощью ПО Ziff-Davis и BapCo & Mad Onion. Во-первых, программные продукты этих компаний проверены временем, во-вторых, наши результаты испытаний смогут сравнить и повторить как рядовые пользователи, так и инженеры других тестовых лабораторий.

Мы собираемся накапливать наши результаты испытаний и время от времени делать сравнительный анализ по тестируемым моделям ноутбуков.

Описание тестирования

Ниже приведено краткое описание тестов, которые мы планируем проводить, все это — широко известные и популярные пакеты.

ZD Business Winstone 2001

Измеряет общую производительность системы при работе в самых популярных сейчас 32-битных приложениях под Windows 98 SE, Windows NT 4.0, Windows 2000 или Windows Me. Business Winstone не имитирует работу данных пакетов, он запускает реальные задачи и для оценки работы использует время, которое потребовалось системе для их выполнения.

ZD Content Creation Winstone 2001

Данный тест оценивает производительность компьютера в моменты пиковой нагрузки. Для успешной работы все подсистемы (особенно жесткий диск и процессор) должны работать одновременно быстро и сбалансированно, с минимальными задержками.

Winstone 2001 использует при тестировании такие приложения, как Adobe Photoshop 5.5, Adobe Premiere 5.1, Macromedia Director 8.0, Macromedia Dreamweaver 3.0, Netscape Navigator 4.73, Sonic Foundry Sound Forge 4.5, что позволяет оценить сбалансированность всех систем, — насколько хорошо они работают вместе.

ZD Winbench 99 v1.2 Business Disk WinMark

Показатель ZD Business Disk WinMark 99 отражает производительность жесткого диска.

ZD Winbench 99 v1.2 Business Graphics WinMark

Business Graphics и High-End Graphics WinMark характеризуют производительность видеоподсистемы в 2D-графике, офисных и графических пакетах.

ZD 3D Winbench 2000 v1.1 3Dmark 2000

3D WinBench измеряет производительность 3D подсистемы компьютера, которая включает в себя программное обеспечение Direct3D, монитор, графический адаптер, графический драйвер и шину, используемую для передачи информации между графическим адаптером и процессором.

Этот тест поможет ответить на вопрос: "А что, может ли ноутбук быть достойным партнером игроману?"

ZD CD Winbench 99 v1.1.1 CD-ROM WinMark 99

CD WinBench 99 оценивает производительность подсистемы CD-ROM, которая включает в себя непосредственно CD-привод, контроллер, драйвер, а также системный процессор.

При тестировании мы будем использовать первые копии с фирменных дисков. Было замечено, что результаты, полученные с новым фирменным диском ZD, были хуже, чем с его копии — т.к. фирменный диск обильно разукрашен и, следовательно, сильнее разбалансирован.

ZD BatteryMark 4.0

ZD BatteryMark 4.0 измеряет длительность работы ноутбука от батарей при запуске сложного, "тяжелого" приложения.

Также этот тест хорошо показывает, насколько удачно тот или иной аппарат справляется с выделяемым теплом и качественно ли воплощена инженерная мысль при разработке ноутбука (некоторые модели нагреваются так, что дотронуться невозможно). Делаем его по всем правилам — не менее 2-х Conditional (предварительных) теста, а затем Life c соответствующими установками Power Management, яркости экрана, SpeedStep и т.д..

Возможно, мы включим в пакет тестов ПО BapCo & Mad Onion, например BapCo & Mad Onion SysMark 2000 Internet Content Creation v1.0 и BapCo & Mad Onion SysMark 2000 Office Productivity.

Результаты испытаний

Итак, у нас есть описание внешности ноутбука, оценка его эргономичности и производительности его систем. Мы переходим к самой ответственной части — надо свести все эти разноплановые параметры воедино и присвоить ноутбуку какую-то общую единую оценку.

Для подведения общего итога мы введем три базовые оценки: субъективная, объективная и оценка соответствия позиционированию с учетом цены.

Первая оценка — субъективная, которая отражает наши взгляды на тестируемый аппарат — комплектность, удобство работы. Для начала каждому параметру присваивается максимальный вес. Если что-либо в нем нас не устраивает, мы вычитаем определенное количество баллов. Естественно, что за одни и те же "огрехи", например, отсутствие переходника или шнуров, во всех тестированиях вычитаться будет одна и та же цифра.

В первой версии нашей методики мы разбивали каждый пункт на составляющие, т.е., например, комплектность включала в себя и наличие русского руководства пользователя, и наличие адаптированных к нашей стране шнуров питания и переходников. Но, поразмыслив, мы решили убрать это разделение, так как допустим наличие переходника — это норма, а вот его отсутствие, — это большой минус для производителя и парой штрафных балов здесь не обойдешься. Каждый "минус" мы будем обосновывать, а минус два балла или три за отсутствие русского описания — это решать нам, оценка-то субъективная…

Вторая оценка — цифры в тестах — объективная оценка. Здесь имеет смысл писать только цифры полученных результатов и сравнивать их при испытаниях ноутбуков.

И, наконец, третья оценка — соответствие позиционированию и цена аппарата. Эта оценка тоже субъективная — она зависит как от полученных результатов тестирования, так и от общих впечатлений от аппарата. В начале каждого тестирования мы определяем, каким основным требованиям должен отвечать тот или иной аппарат и, исходя из этого, по окончании тестирования делаем вывод — соответствует ноутбук своему предназначению или не совсем. Это и будет считаться окончательным выводом.

ПАРАМЕТРЫ ОЦЕНКИБАЛЛЫ
Комплектность 25
Внешний вид и эргономика 25
Удобство работы 25
Поддержка пользователя 25
Тестирование производительности
ZD Business Winstone 2001Полученные значения
ZD Content Creation Winstone 2001
ZD Winbench 99 v1.2 Business Disk WinMark
ZD Winbench 99 v1.2 Business Graphics WinMark
ZD 3D Winbench 2000 v1.1 3D WinMark 2000
ZD CD Winbench 99 v1.1.1 CD-ROM WinMark 99
ZD BatteryMark 4.0
Соответствие позиционированию и ценаНаш Вывод

Выводы. Плюсы и минусы, комментарии

Исходя из полученных результатов, мы делаем выводы, отмечаем плюсы и минусы испытуемого аппарата. Также даем комментарии и рассказываем об особенностях, замеченных нами.

Дополнительный тест (необязательный)

Кроме описанных выше тестов ноутбуков мы предлагаем всем желающим компаниям-поставщикам и производителям протестировать свои ноутбуки еще одним тестом — Crash-test. Этот тест позволит определить, насколько аппарат способен "переживать" экстремальные условия — падение, высокую влажность, температуру и т.д. Естественно, по запросу будет предоставлена подробная методика, ломом крушить ноутбуки никто не собирается. Сейчас мы не будем подробно ее описывать и скажем лишь одно — методика Crash-теста будет максимально соответствовать российским условиям эксплуатации и русскому характеру, который, как известно, несколько… разгильдяйский (типичный пример — чай, кофе, пиво, национальный напиток… пролитые на клавиатуру устройства за несколько тысяч долларов)… Соответственно, возврат ноутбука предоставившей его компании в рабочем состоянии не гарантируется. Но зато по результатам испытаний одному из ноутбуков будет присвоено звание "Самый надежный ноутбук для России". Кстати, на самом популярном российском сайте по "железу". При возникновении желания предоставить ноутбук — пишите авторам. Как только мы найдем достаточное количество желающих поучаствовать в этих испытаниях "под слом", мы расскажем о методике и объявим об условия участия на этот конкурс "самого надежного".




Дополнительно

Методика тестирования портативных компьютеров

Методика тестирования портативных компьютеров

Итак, мы решились. После публикации статьи о тестировании ноутбука Fujitsu в январе этого года мы получили от Вас, уважаемые читатели, массу откликов и в нашей конференции, и в письмах. Действительно, ноутбуки все больше входят в нашу жизнь, число пользователей растет от года в год, и мы не можем обойти стороной этот важный сектор рынка высоких технологий. Мы убедились в необходимости введения нового направления — обзоров портативных компьютеров.

Ниже мы познакомим Вас с методикой оценки и испытаний ноутбуков, которые будут попадать в нашу тестовую лабораторию. Приведем список тестов, критерии отбора и оценок. Нам очень важно знать Ваше мнение о нашей методике. Фактически это — первая статья в новом разделе "Ноутбуки и КПК". Мы надеемся услышать Ваше мнение и учесть его перед тем, как начнем проводить испытания аппаратов. Итак, поехали!

Что такое ноутбук и как его оценивать

Ноутбук — это портативный персональный компьютер. Он может обладать всеми функциями обычного стационарного компьютера, но всегда имеет важное преимущество над ним: ноутбук — это переносной компьютер, который можно использовать в любом месте и в дороге. Таким образом, можно сказать, что ноутбук — это мобильный персональный компьютер.

Как оценивать ноутбук? Так же, как любое другое оборудование — отношение производительности (качества) к цене. Причем здесь производительность (качество) включают в себя не только скоростные характеристики системы и время работы от батарей, но и возможность модернизации, удобство работы, сервис и т.д. Отдельно мы бы упомянули эргономику. Если для настольного ПК большого значения эргономика не играет, то для ноутбука она очень важна. При работе с портативным ПК Вы сразу обращаете внимание на удобство расположения клавиш на клавиатуре, удобство работы с приводом CD и флоппи-дисководом, для владельца ноутбука имеет значение и стиль, в котором выполнен корпус — ведь это и стиль самого владельца.

Кроме этого, при испытаниях портативных компьютеров важно учитывать позиционирование продукта, т.е. как и где производитель рекомендует использовать данный аппарат. Наша задача: понять, насколько успешно он справился с этой задачей. Ведь ноутбук — это самостоятельная законченная система, работа которой не зависит от другого оборудования. В своих исследованиях мы попытаемся дать ответ на вопрос, — правильно ли позиционируется продукт, а значит, стоит ли он своих денег?

Что ж, будем упорядочивать наши параметры оценки ноутбука.

Подготовка ноутбука к тестированию

Итак, мы получаем аппарат для тестирования. Естественно, нам передают "не голый" ноутбук со шнуром питания, а новенький компьютер в красивой коробочке с множеством всяких компакт-дисков, описаний и прочих прелестей поставки. (Господа производители и поставщики! Обратите внимание, что, когда мы будем тестировать Ваше оборудование, мы будем подробно писать о комплектности поставки). Аккуратненько распаковываем коробку, достаем аппарат и смотрим на:

  • наличие руководства пользователя (обязательно на русском языке);
  • наличие шнуров питания с европейским разъемом и/или переходников;
  • поставляемое ПО и драйвера;
  • внешние устройства и шнуры подключения к ним;
  • все остальное, что будет в комплекте.

Описание продукта

Здесь мы будем описывать технические характеристики ноутбука, поведаем о возможности подключения внешних устройств, о новых технологиях использующихся в данном аппарате. С нашими комментариями. Расскажем о рекомендованной производителем сфере применения модели. Для того, чтобы в заключении наших исследований сделать вывод — насколько удачной оказалась та или иная модель и будет ли эта модель удачной при покупки.

На первый взгляд…

Продолжаем знакомиться с продуктом. Из коробки мы его уже достали, теперь пора поближе познакомиться с самим ноутбуком, — описываем внешний вид, эргономику, конструктивные особенности. Так сказать, первые субъективные впечатления.

Тестирование ноутбуков

Подготовка продукта к испытаниям

Вне зависимости от предустановленного ПО на каждый ноутбук будет устанавливаться ОС Windows ME English. На наш взгляд — это самая "нейтральная" операционная система для наших тестов.

Тестирование всех аппаратов проводится только при включенном внешнем источнике питания (естественно, за исключением измерения работы ноутбука от батареи).

Все тесты проводятся с установкой High Color (16-bit).

Тестирование ноутбуков мы решили проводить с помощью ПО Ziff-Davis и BapCo & Mad Onion. Во-первых, программные продукты этих компаний проверены временем, во-вторых, наши результаты испытаний смогут сравнить и повторить как рядовые пользователи, так и инженеры других тестовых лабораторий.

Мы собираемся накапливать наши результаты испытаний и время от времени делать сравнительный анализ по тестируемым моделям ноутбуков.

Описание тестирования

Ниже приведено краткое описание тестов, которые мы планируем проводить, все это — широко известные и популярные пакеты.

ZD Business Winstone 2001

Измеряет общую производительность системы при работе в самых популярных сейчас 32-битных приложениях под Windows 98 SE, Windows NT 4.0, Windows 2000 или Windows Me. Business Winstone не имитирует работу данных пакетов, он запускает реальные задачи и для оценки работы использует время, которое потребовалось системе для их выполнения.

ZD Content Creation Winstone 2001

Данный тест оценивает производительность компьютера в моменты пиковой нагрузки. Для успешной работы все подсистемы (особенно жесткий диск и процессор) должны работать одновременно быстро и сбалансированно, с минимальными задержками.

Winstone 2001 использует при тестировании такие приложения, как Adobe Photoshop 5.5, Adobe Premiere 5.1, Macromedia Director 8.0, Macromedia Dreamweaver 3.0, Netscape Navigator 4.73, Sonic Foundry Sound Forge 4.5, что позволяет оценить сбалансированность всех систем, — насколько хорошо они работают вместе.

ZD Winbench 99 v1.2 Business Disk WinMark

Показатель ZD Business Disk WinMark 99 отражает производительность жесткого диска.

ZD Winbench 99 v1.2 Business Graphics WinMark

Business Graphics и High-End Graphics WinMark характеризуют производительность видеоподсистемы в 2D-графике, офисных и графических пакетах.

ZD 3D Winbench 2000 v1.1 3Dmark 2000

3D WinBench измеряет производительность 3D подсистемы компьютера, которая включает в себя программное обеспечение Direct3D, монитор, графический адаптер, графический драйвер и шину, используемую для передачи информации между графическим адаптером и процессором.

Этот тест поможет ответить на вопрос: "А что, может ли ноутбук быть достойным партнером игроману?"

ZD CD Winbench 99 v1.1.1 CD-ROM WinMark 99

CD WinBench 99 оценивает производительность подсистемы CD-ROM, которая включает в себя непосредственно CD-привод, контроллер, драйвер, а также системный процессор.

При тестировании мы будем использовать первые копии с фирменных дисков. Было замечено, что результаты, полученные с новым фирменным диском ZD, были хуже, чем с его копии — т.к. фирменный диск обильно разукрашен и, следовательно, сильнее разбалансирован.

ZD BatteryMark 4.0

ZD BatteryMark 4.0 измеряет длительность работы ноутбука от батарей при запуске сложного, "тяжелого" приложения.

Также этот тест хорошо показывает, насколько удачно тот или иной аппарат справляется с выделяемым теплом и качественно ли воплощена инженерная мысль при разработке ноутбука (некоторые модели нагреваются так, что дотронуться невозможно). Делаем его по всем правилам — не менее 2-х Conditional (предварительных) теста, а затем Life c соответствующими установками Power Management, яркости экрана, SpeedStep и т.д..

Возможно, мы включим в пакет тестов ПО BapCo & Mad Onion, например BapCo & Mad Onion SysMark 2000 Internet Content Creation v1.0 и BapCo & Mad Onion SysMark 2000 Office Productivity.

Результаты испытаний

Итак, у нас есть описание внешности ноутбука, оценка его эргономичности и производительности его систем. Мы переходим к самой ответственной части — надо свести все эти разноплановые параметры воедино и присвоить ноутбуку какую-то общую единую оценку.

Для подведения общего итога мы введем три базовые оценки: субъективная, объективная и оценка соответствия позиционированию с учетом цены.

Первая оценка — субъективная, которая отражает наши взгляды на тестируемый аппарат — комплектность, удобство работы. Для начала каждому параметру присваивается максимальный вес. Если что-либо в нем нас не устраивает, мы вычитаем определенное количество баллов. Естественно, что за одни и те же "огрехи", например, отсутствие переходника или шнуров, во всех тестированиях вычитаться будет одна и та же цифра.

В первой версии нашей методики мы разбивали каждый пункт на составляющие, т.е., например, комплектность включала в себя и наличие русского руководства пользователя, и наличие адаптированных к нашей стране шнуров питания и переходников. Но, поразмыслив, мы решили убрать это разделение, так как допустим наличие переходника — это норма, а вот его отсутствие, — это большой минус для производителя и парой штрафных балов здесь не обойдешься. Каждый "минус" мы будем обосновывать, а минус два балла или три за отсутствие русского описания — это решать нам, оценка-то субъективная…

Вторая оценка — цифры в тестах — объективная оценка. Здесь имеет смысл писать только цифры полученных результатов и сравнивать их при испытаниях ноутбуков.

И, наконец, третья оценка — соответствие позиционированию и цена аппарата. Эта оценка тоже субъективная — она зависит как от полученных результатов тестирования, так и от общих впечатлений от аппарата. В начале каждого тестирования мы определяем, каким основным требованиям должен отвечать тот или иной аппарат и, исходя из этого, по окончании тестирования делаем вывод — соответствует ноутбук своему предназначению или не совсем. Это и будет считаться окончательным выводом.

ПАРАМЕТРЫ ОЦЕНКИБАЛЛЫ
Комплектность 25
Внешний вид и эргономика 25
Удобство работы 25
Поддержка пользователя 25
Тестирование производительности
ZD Business Winstone 2001Полученные значения
ZD Content Creation Winstone 2001
ZD Winbench 99 v1.2 Business Disk WinMark
ZD Winbench 99 v1.2 Business Graphics WinMark
ZD 3D Winbench 2000 v1.1 3D WinMark 2000
ZD CD Winbench 99 v1.1.1 CD-ROM WinMark 99
ZD BatteryMark 4.0
Соответствие позиционированию и ценаНаш Вывод

Выводы. Плюсы и минусы, комментарии

Исходя из полученных результатов, мы делаем выводы, отмечаем плюсы и минусы испытуемого аппарата. Также даем комментарии и рассказываем об особенностях, замеченных нами.

Дополнительный тест (необязательный)

Кроме описанных выше тестов ноутбуков мы предлагаем всем желающим компаниям-поставщикам и производителям протестировать свои ноутбуки еще одним тестом — Crash-test. Этот тест позволит определить, насколько аппарат способен "переживать" экстремальные условия — падение, высокую влажность, температуру и т.д. Естественно, по запросу будет предоставлена подробная методика, ломом крушить ноутбуки никто не собирается. Сейчас мы не будем подробно ее описывать и скажем лишь одно — методика Crash-теста будет максимально соответствовать российским условиям эксплуатации и русскому характеру, который, как известно, несколько… разгильдяйский (типичный пример — чай, кофе, пиво, национальный напиток… пролитые на клавиатуру устройства за несколько тысяч долларов)… Соответственно, возврат ноутбука предоставившей его компании в рабочем состоянии не гарантируется. Но зато по результатам испытаний одному из ноутбуков будет присвоено звание "Самый надежный ноутбук для России". Кстати, на самом популярном российском сайте по "железу". При возникновении желания предоставить ноутбук — пишите авторам. Как только мы найдем достаточное количество желающих поучаствовать в этих испытаниях "под слом", мы расскажем о методике и объявим об условия участия на этот конкурс "самого надежного".