Критерій покриття інтерфейсу: кожна операція, оголошена в інтерфейсі повинна бути протестована принаймні один раз.

Критерій покриття інтерфейсів не є досить репрезентативним тому що він:

- повинний бути досягнутий на фазі модульного тестування;

- не розрізняє виклики, що виходять з різних компонентів.

Для того, щоб врахувати цю інформацію пропонується критерій покриття викликів операцій.

Нехай Cі позначає компонент Системи, і=1.. n, де n - кількість компонентів.

І(Cі) - Інтерфейс (Іnterface) компонента Cі.

sj,k - сервіс, оголошений у Ck,

j=1.. mk, де mk -кількість сервісів, оголошених у Ck

критерій покриття викликів операцій має вигляд:

sj,kI(Ck), i, i=1.. n, ik, якщо можливо здійснити виклик sj,k з Cі, то тоді такий виклик необхідно протестувати хоча б один раз.

Для врахування контексту даних було введено критерій покриття активізації інтерфейсу: Cі- компонент, CiSystem, i=1.. n, де n - кількість компонентів

діаграми станів компонента Ci - State-Chart Diagram SD(Ci),

t - перехід (Transition), t= (Source, Target, Trigger, Effect, Guard),

якщо t SD(Ci), та Effect i, то t повинно бути протествано хоча б раз під час інтеграційного тестування.

У цьому розділі було введено метрику, яка характеризує співвідношення між викликами та активізаціями:

СDj - діаграма взаємодії (collaboration diagram); CDjSystem; j=1..J, де J - кількість діаграм взаємодії в системі.

Sl,j - послідовність повідомлень; Sl,j СDj; i=1..nj, де nj - кількість послідовностей в діаграмі взаємодії СDj

Sl,j={mk}l,j, k=1..rl,j, rl,j - кількість повідомлень в послідовності Sl,j

mk - повідомлення в послідовності;

Ci - компонент; ClSystem; l=1..n, де n - кількість компонентів в системі

SD (Ci) - діаграма станів (state-chart diagram of component Ci)

tg,i - перехід (transition), tg,i SD (Ci), g=1..ni; ni - кількість переходів в діаграмі станів SD(Ci)

mk - повідомлення між компонентами Ci1 та Ci2.

mk tg1,i1 Ci1 | Effect(tg1,i1)=Name(mk)

tg2,i2 Ci2 | Trigger(tg2,i2)=Name(mk).

Тоді mk може бути представлено як: mk = ( tg1,i1, tg2,i2)k (*)

Позначимо:

Te(mk)= tg1,i1

Tt(mk)= tg2,i2

Визначимо |T| як кількість елементів у множині T

|Te(mk)| ;|Tt(mk)|t

Позначимо кількість можливих комбінацій між переходами, які викликають та тими, що відповідають через і визначимо її наступним чином: Вочевидь, що чим більше значення , тим більше потрібно тестів.

Критерії, наведені вище, гарантують, що кожен різновид взаємодії між компонентами (активізації, виклики і т.д.) перевірено принаймні один раз. Однак, функціонування компонентно-базованого програмного забезпечення передбачає взаємодію сукупності елементів, причому порядок взаємодії може бути важливим. Тому були розроблені критерії для послідовностей.

Для того, щоб обробити інформацію про порядок взаємодії було введено поняття відношення залежності: активізація Іnv2 пов'язана відношенням залежності з активізацією Іnv1, якщо існує шлях (executіon path), при якому активізація Іnv1 викликає активізацію Іnv2. Будемо говорити, що Іnv2 пов'язане з Іnv1 послідовністю активізацій, яка реалізує відношення залежності між цими двома активізаціями.

Критерій покриття залежностей: кожна послідовність активізацій, яка реалізує кожне відношення залежності, повинна бути протестована хоча б один раз.

Досягнення повного покриття даного критерію на практиці вкрай ускладнено через велику кількість необхідних тестів. Тому пропонується практичний спосіб розв'язання даної проблеми на основі використання UML діаграм. Відповідно до цього підходу враховуються тільки фактичні UML-послідовності в діаграмах взаємодії, а їхні підпослідовності окремо не розглядаються. Тому було розроблено ще два критерії.

Критерій покриття послідовностей викликів операцій: кожна послідовність повідомлень mk (*) у кожній діаграмі взаємодій UML повинна бути протестована хоча б один раз.

Критерій покриття послідовностей викликів операцій не враховує контексту. Щоб врахувати цей чинник, послідовності повідомлень з діаграм взаємодії варто доповнити інформацією про відповідні стани в діаграмах станів компонентів.

Критерій покриття послідовностей активізацій: кожна послідовність активізацій mk=(tg1,l1, tg2,l2)k (*) у кожній діаграмі взаємодії повинна бути протестована хоча б один раз.

Цей критерій є компромісом між критеріями покриття залежностей і покриття послідовностей викликів операцій. У ньому врахований контекст даних, розглядаються фактичні послідовності активізацій, але не досліджується окремо кожна підпослідовність, що дозволяє полегшити реалізацію цього критерію на практиці.

Особлива увага має бути приділена паралельному виконанню послідовностей повідомлень. Для цього розроблений критерій покриття паралельних потоків: для кожної діаграми взаємодії CD, кожна функціонально можлива комбінація виконання повідомлень у паралельних потоках має бути протестована хоча б один раз.

Для кожного з запропонованих критеріїв розроблені метрики, які дозволяють чисельно оцінити ступінь досяжності критерію.

В розділі представлені оцінки кількості тестів, необхідних для покриття кожного з розглянутих критеріїв. Вони дозволяють оцінити вартість тестування на ранніх етапах програмування, а отже вибрати критерій, якого можна досягти практично, виходячи з наявних у наявності фінансових ресурсів і часу. Визначено метрику відповідності між повідомленнями і переходами (викликами й активізаціями), яка дозволяє одержати більш точні оцінки необхідної кількості тестів і може використовуватися для підтримки рішення при виборі компонента з функціонально йому еквівалентних.

Аналіз запропонованих у роботі критеріїв дозволив сформулювати задачі оптимізації процесу тестування, які враховують обмеження фінансових витрат, часу на розробку та забезпечують необхідний рівень якості ПЗ, що тестується. Вони належать до класу задач лінійного булевого програмування з обмеженнями групового вибору. В залежності від характеру параметрів наведено стохастичну та детерміновану постановки задач, вказані умови зведення стохастичної задачі до детермінованої, та показані шляхи вирішення останньої.

Розглянемо детерміновану постановку задачі оптимізації вибору тестового покриття.

Кожен тест характеризується вартістю, часом, необхідним на його проведення та елементом функціональності, який він тестує.

Нехай , а .

Введемо булеву змінну:

Тоді задача оптимізації вартості, при обмеженнях на час проведення тестування буде мати вигляд:

де K - кількість виділених груп об'єктів тестування, Jk - множина елементів функціональності, які мають бути протестовані для k-ої групи об'єктів тестування.

Обмеження:

1. На час (враховуючи можливість паралельного тестування):

,

де Тk -час, виділений на тестування кожної з груп об'єктів

2. Групового вибору (тести для різних типів елементів функціональності різних груп об'єктів не перетинаються, і необхідно вибрати один тест для кожного елементу):

,Ж,

якщо , , - множина всіх елементів функціональності.

Дослідження, проведені в розділах 2 та 3 становлять основу для створення інструментарію для підтримки оцінювання та забезпечення надійності ПЗ.

Четвертий розділ присвячено практичному дослідженню розроблення та функціонування модуля управління надійністю як складової частини системи автоматизованого проектування інформаційних систем (ІС).

У рамках дослідницького проекту ІT.Com по автоматизації проектування ІС автором було спроектовано архітектуру модуля, управляючого надійністю ПЗ (рис. 2), інтегровано його у загальну архітектуру системи, здійснено аналіз особливостей функціонування та проведено дослідження його технологічних аспектів.

Модуль управління надійністю складається з модулей оцінювання надійності та її забезпечення. Моделі, представлені в другому розділі були покладені в основу модуля оцінювання, а на базі запропонованих критеріїв було спроектовано модуль високорівневого тестування. Була розроблена класифікація тестів та охарактеризовані типові помилки, що виявляються кожним з критеріїв.

Проведено аналіз практичної досяжності кожного з запропонованих критеріїв, який показав, що критерії, пов'язані з урахуванням контексту даних (критерій покриття активізацій, покриття послідовностей активізацій, покриття залежностей), є ресурсомісткішими за часом і фінансовими витратами, але при цьому забезпечують якіснішу перевірку надійності ПЗ. Найскладнішим для практичної реалізації є критерій покриття залежностей. Найпростішими є критерії покриття операцій інтерфейсу, викликів операцій і послідовностей викликів операцій, однак, вони найчастіше не забезпечують необхідну надійність перевірки. Компромісними варіантами у відношенні витрати/якість є критерії покриття активізацій і послідовностей активізацій. Вони найбільш оптимальні для практичного застосування.

Експериментальне дослідження модуля високорівневого тестування було здійснено з використанням спроектованої компонентно-базованої системи віддаленої взаємодії користувача, авіакомпанії, туристичного агентства і банку - “Base - IT.Com”. В ході тестування було виявлено ряд помилок у структурі спроектованої компонентно-базованої системи, які могли б призвести до значних фінансових втрат та були пов'язані з паралельним виконанням послідовностей операцій.

Дослідження показало, що використання UML діаграм дозволяє на ранніх етапах проектування виявляти помилки у структурі та визначати ті критерії, досягнення яких можливе, виходячи з наявних часових і фінансових ресурсів, і, відповідно, оцінити вартість наступного тестування.

У додатках наведено детальний аналіз катастроф медичного комплексу Therac-25 та ракети Ariane-5, викликаних помилками в ПЗ, та опис експериментальної компонентно-базованої системи “Base - IT.Com”

ВИСНОВКИ

Науковою задачею, вирішеною в дисертаційній роботі, є розроблення моделей оцінки і засобів підвищення надійності програмного забезпечення протягом усього ЖЦ ПЗ з урахуванням сучасних тенденцій у розробленні і тестуванні ПЗ.

При вирішенні задачі отримано такі результати:

Сформульовано концепцію управління надійністю на всьому ЖЦ ПЗ і запропоновано комплекс засобів оцінювання та підвищення надійності компонентно-базованого ПЗ;

Запропоновано узагальнену модель негомогенного пуасонівського процесу, в якій враховані всі переваги базових моделей негомогенного пуасонівського процесу, а також введений додатковий параметр, який характеризує складність програмного проекту та практику проведення тестування з урахуванням процесів навчання.

Проведено чисельне моделювання запропонованої моделі. Експериментальні дані дозволили встановити, що запропонована модель дає більш точні оцінки надійності і відповідає практиці проведення тестування. Параметри моделі були розраховані за методом максимальної правдоподібності, для значення параметру, який характеризує складність та практику проведення тестування запропоновані відповідні рекомендації.

Сформульовано нові критерії і метрики для інтеграційного тестування компонентно-базованого програмного забезпечення, які ґрунтуються на описі структури програмного забезпечення, а саме: критерій покриття операцій інтерфейсу; критерій покриття викликів операцій; критерій покриття активізацій інтерфейсу; критерій покриття послідовностей викликів операцій; критерій покриття послідовностей активізацій; критерій покриття залежностей. Запропоновані формальні критерії дають можливість розробити плани проведення тестування вже на ранніх етапах створення ПЗ.

Розроблено оцінки кількості тестів, необхідних для покриття кожного з розглянутих критеріїв, які дозволяють оцінити вартість тестування на ранніх етапах створення ПЗ, а отже вибрати критерій, якого можна досягти практично, виходячи з наявних фінансових ресурсів і часу.

Визначено метрику відповідності між повідомленнями і переходами (викликами та активізаціями), яка дозволяє одержати більш точні оцінки необхідної кількості тестів та може використовуватися для підтримки рішень при виборі компонента з функціонально еквівалентних йому.

Сформульовано задачі оптимізації процесу тестування, які враховують обмеження фінансових витрат, часу на розроблення та забезпечують необхідний рівень якості ПЗ, що тестується.

Розроблено архітектуру системи автоматизованого проектування ІС, яка враховує аспекти створення програмного продукту, його тестування і управління такими параметрами як вартість проекту, час реалізації та якість.

Запропоновано архітектуру компонентів управління параметрами проекту, управління надійністю ПЗ і модуля високорівневого тестування, які забезпечують управління надійністю ПЗ протягом всіх етапів його ЖЦ.

Спроектовано компонентно-базовану систему віддаленої взаємодії користувача, авіакомпанії, туристичного агентства і банку, на основі якої було зроблене практичне дослідження високорівневого тестування.

Проаналізовано практичну досяжність кожного з запропонованих критеріїв і охарактеризовані типові помилки, які виявляються кожним із критеріїв, що дає можливість підвищити надійність ПЗ.

СПИСОК ОПУБЛІКОВАНИХ ПРАЦЬ

1. Дідковська М.В. Аналіз моделей оцінювання надійності програмного забезпечення // Вісник НТУУ “КПІ”. Інформатика, управління та обчислювальна техніка. №41, Київ, 2004. С.103-120.

2. Тимошенко Ю.О., Дідковська М.В., Кобринський С.Ю. Розробка методу функціональної сегментації для тестування програмного забезпечення // Наукові вісті, №5(37), Київ, 2004. С. 48-56.

Запропоновано методику проведення функціональної сегментації для об'єктно-орієнтованого програмного забезпечення.

3. Лунтовский А.О., Дидковская М.В., Глоба Л.С. Программные модели и технологии разработки распределенных информационных систем // Электроника и связь, №9, Киев, 2000. С.15-23.

Здійснено аналіз та моделювання розподілених інформаційних систем.

4. Дідковська М.В. Застосування методу впровадження несправностей при тестуванні достовірно функціонуючих обчислювальних систем // Електроніка і зв'язок, №13, Київ, 2001. С.116-119.

5. Дидковская М.В., Тимошенко Ю.А. Метод внедрения неисправностей как элемент технологической безопасности информационных систем // Электроника и связь, №14, Киев, 2002. С. 165-167.

Розроблена система впровадження несправностей в елементи пам'яті, проведені дослідження їхньої прихованості та виконано аналіз можливості застосування методу в задачах тестування безпеки інформаційних систем.

6. Дідковська М.В., Тимошенко Ю.О. Дослідження прихованості несправностей в обчислювальній системі на базі експериментальної системи впровадження несправностей // Електроніка і зв'язок, №16, Київ, 2002. С. 53-55.

Розроблена експериментальна система впровадження несправностей та виконаний аналіз прихованості несправностей в обчислювальній системі.

7. Дідковська М.В., Тимошенко Ю.О. Оцінювання надійності програмного забезпечення // Електроніка і зв'язок, №19, Київ, 2003. С.6-10.

Здійснено аналіз методів оцінювання програмного забезпечення.

8. Didkovska M. Criteria for integration testing of component-based software // Електроніка і зв'язок, №23, Київ, 2004. С.90-94.

9. Тимошенко Ю.О., Дідковська М.В. Узагальнена модель негомогенного пуасонівського процесу для оцінювання надійності програмного забезпечення // Проблеми програмування №2-3, Київ, 2004. С.480-489.

Запропонована узагальнена модель негомогенного пуасонівського процесу для оцінювання надійності програмного забезпечення. Представлені методи обчислення її параметрів.

10. Дидковская М.В. Метод внедрения неисправностей как элемент технологической безопасности информационных систем // НТУУ КПІ, 2000, ІІ ННПК “Системний аналіз та інформаційні технології”, Київ, 2000. С.146-150.

11. Дидковская М.В., Кобринский С.Ю. Программное внедрение неисправностей как метод оценивания достоверности функционирования вычислительных систем // НТУУ КПІ, 2001, ІІІ МНПК “Системний аналіз та інформаційні технології”, Київ, 2001. С.39-43

Здійснено моделювання методу впровадження несправностей в процесор, проведено дослідження прихованості несправностей та зроблені висновки щодо використання даного методу для оцінювання достовірності функціонування обчислювальних систем.

12. Дидковская М.В. Интеграционное тестирование компонентно-базированного программного обеспечения: критерии, оценки, метод выбора // НТУУ КПІ, 2005, VII МНПК “Системний аналіз та інформаційні технології”, Київ, 2005. С.189.

АНОТАЦІЯ

Дідковська М. В. Методи оцінки та засоби підвищення надійності програмного забезпечення. - Рукопис.

Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.13.06 - “Автоматизовані системи управління та прогресивні інформаційні технології” - Національний технічний університет України “Київський політехнічний інститут”, Київ, 2006.

Дисертація присвячена розробці моделей оцінювання і засобів підвищення надійності програмного забезпечення протягом усього життєвого циклу ПЗ, з урахуванням сучасних тенденцій у розробленні і тестуванні ПЗ.

Запропоновано узагальнену модель оцінювання якості програмного забезпечення на основі негомогенного пуасонівського процесу та обчислено її параметри. Функція інтенсивності виявлення несправностей запропонованої моделі враховує процеси навчання та відображає процес проведення тестування. Експериментальним шляхом доведено її працездатність та переваги порівняно з попередньо існуючими моделями оцінювання надійності.

Розроблено нові критерії та метрики інтеграційного тестування ПЗ з урахуванням новітніх тенденцій до компонентно-базованого програмування та з використанням діаграм UML. Зазначені критерії надають можливість розробити плани проведення тестування на ранніх етапах створення ПЗ та дозволяють отримати перелік об'єктів та подій, які необхідно протестувати для кожного з запропонованих критеріїв. Цей процес легко автоматизується, що є необхідною складовою загального процесу автоматизації тестування, а також обов'язковим компонентом при перевірці якості спроектованого тесту.

Ключові слова: програмне забезпечення, надійність ПЗ, моделі оцінювання надійності ПЗ, тестування ПЗ, інтеграційне тестування ПЗ, критерії та метрики, компонентно-базоване ПЗ, автоматизація тестування.

АННОТАЦИЯ

Дидковская М.В. Методы оценки и средства повышения надежности программного обеспечения. - Рукопись.

Диссертация на соискание ученой степени кандидата технических наук по специальности 05.13.06 - "Автоматизированные системы управления и прогрессивные информационные технологии" - Национальный технический университет Украины "Киевский политехнический институт", Киев, 2006.

Диссертация посвящена разработке моделей оценки и средств повышения надежности программного обеспечения на протяжении всего жизненного цикла ПО, с учетом современных тенденций в разработке и тестировании ПО.

Предложена обобщенная модель оценивания качества программного обеспечения на основе негомогенного пуассоновского процесса и вычислены ее параметры по методу максимального правдоподобия. Функция интенсивности выявления неисправностей данной модели учитывает процессы обучения и отображает ход проведения тестирования. Экспериментальным путем доказана работоспособность и определены преимущества новой модели оценивания надежности по сравнению с уже существующими.

Модели оценивания надежности применяются после того, как ПО создано и для их правильной работы требуется значительное количество статистических данных про отказы. Для получения оценок по мере разработки ПО, а также обеспечения надежности, применяется тестирование.

Проведенное исследование функционального тестирования показало, что данный вид тестирования характеризуется очень большим количеством необходимых тестов, более того возникают сложности при обеспечении независимости этих тестов.

Учитывая современные тенденции к использованию компонентно-базированного программирования, в котором зачастую компоненты представлены, как “черные ящики”, и доступны лишь их автоматы состояний, а не сам исходный код, автором было показано, что классические методы структурного тестирования с уровнем абстракции равным уровню операторов языка программирования не применимы. Возникла необходимость в разработке специализированных критериев для интеграционного тестирования, которые будут работать на ином уровне абстракции, и учитывать предоставляемые автоматы состояний компонентов, а также ставить акцент именно на взаимодействии между модулями, а не на их внутренней работе.

С данной целью были разработаны новые критерии и метрики интеграционного тестирования ПО с учетом новейших тенденций к компонентно-базированному созданию ПО и с использованием диаграмм UML, а именно: критерий покрытия операций интерфейса, критерий покрытия вызовов операций, критерий покрытия активизаций интерфейса, критерий покрытия последовательностей вызовов операций, критерий покрытия последовательностей активизаций и критерий покрытия зависимостей.

Проведен анализ практической достижимости каждого из предложенных критериев, который показал, что критерии, связанные с учетом контекста данных (критерий покрытия активизаций, покрытия последовательностей активизаций, покрытия зависимостей), являются более ресурсоемкими по времени и финансовым затратам, но при этом обеспечивают более качественную проверку надежности ПО. Наиболее сложным для практической реализации является критерий покрытия зависимостей. Наиболее простыми являются критерии покрытия операций интерфейса, вызовов операций и последовательностей вызовов операций, однако, они зачастую не обеспечивают требуемую надежность проверки. Компромиссными вариантами в отношении затраты/качество являются критерии покрытия активизаций и последовательностей активизаций. Они наиболее оптимальны для практического применения.

В работе была представлена классификация тестов на основе жизненного цикла ПО, и охарактеризованы типовые ошибки, выявляемые каждым из критериев, что дает возможность повысить надежность ПО.

Предложенные критерии предоставляют возможность разработать планы проведения тестирования на ранних этапах создания ПО и позволяют получить перечень объектов и событий, которые необходимо протестовать для каждого из предложенных критериев. Данный процесс легко автоматизируется, а это является необходимой составляющей общего процесса автоматизации тестирования, а также обязательным компонентом при проверке качества спроектированного теста.

Ключевые слова: программное обеспечение, надежность ПО, модели оценивания надежности ПО, тестирование ПО, интеграционное тестирование ПО, критерии и метрики, компонентно-базированное ПО, автоматизация тестирования.

SUMMARY

Didkovska M.V. Estimation methods and means of software reliability increase. - Manuscript.

Thesis for a candidate's degree in technical science by speciality 05.13.06 - Automatic control systems and modern information technologies. National Technical University of Ukraine “Kyiv Polytechnic Institute”, Kyiv, 2006.

The thesis is devoted to the development of software reliability estimation models and means of software reliability increase during the whole software life cycle, according to the modern tendencies in software development.

Generalized and extended software reliability estimation model based on the nonhomogeneous Poisson process was developed. Function of failure intensity of this model has complex form, which coincides with the results obtained in practice. It allows to take into account the process of learning during testing.

The application of reliability grows models is limited, because it's not always possible to obtain all necessary input data for models. In such a case a testing can be used.

During the investigation the new integration testing criteria and measures that are based on design description of software component interaction were introduced. They are innovative and utilize formal design description as a basis. These criteria have practical value because the fulfillment of criteria can be automatically checked using well-known notation of UML-diagrams. Formal coverage criteria offer testers ways to select test data and provide necessary stopping rules. They allow to develop test plans in the early phases of software development.

Key words: software, software reliability, software reliability estimation, software testing, integration testing, component-based software, computer-aided testing.

WWW.LIBRAR.ORG.UA - Бібліотека України

Страницы: 1, 2, 3